Kamus AI
Istilah · Safety & Evaluation
Guardrails
Aturan dan kontrol yang membatasi input, output, tool, atau tindakan sistem AI.
Apa itu Guardrails
Aturan dan kontrol yang membatasi input, output, tool, atau tindakan sistem AI. Hubungkan istilah ini dengan Moderation dan Output Validation agar kamu melihat perannya di sistem, bukan sekadar menghafal definisi.
Kelihatan seperti apa di praktik
Dalam praktik Safety & Evaluation, Guardrails biasanya muncul saat kamu bekerja dengan Moderation, lalu perlu memastikan hasilnya tetap cocok dengan tujuan kerja.
Kenapa istilah ini penting
Guardrails penting karena membantu kamu menguji kualitas, keamanan, dan batas penggunaan sebelum sistem dipakai orang lain.
Yang sering keliru dipahami
Mengira Guardrails sama dengan Moderation. Keduanya berkaitan, tetapi perannya berbeda dalam alur kerja AI.