Kamus AI
Istilah · Safety & Evaluation
Moderation
Proses mendeteksi atau menangani konten yang melanggar kebijakan.
Apa itu Moderation
Proses mendeteksi atau menangani konten yang melanggar kebijakan. Hubungkan istilah ini dengan Guardrails dan Data Privacy agar kamu melihat perannya di sistem, bukan sekadar menghafal definisi.
Kelihatan seperti apa di praktik
Dalam praktik Safety & Evaluation, Moderation biasanya muncul saat kamu bekerja dengan Guardrails, lalu perlu memastikan hasilnya tetap cocok dengan tujuan kerja.
Kenapa istilah ini penting
Moderation penting karena membantu kamu menguji kualitas, keamanan, dan batas penggunaan sebelum sistem dipakai orang lain.
Yang sering keliru dipahami
Mengira Moderation sama dengan Guardrails. Keduanya berkaitan, tetapi perannya berbeda dalam alur kerja AI.