Kamus AI
Istilah · Safety & Evaluation
Red Teaming
Pengujian dengan mencoba menemukan cara sistem gagal atau disalahgunakan.
Apa itu Red Teaming
Pengujian dengan mencoba menemukan cara sistem gagal atau disalahgunakan. Hubungkan istilah ini dengan Prompt Injection dan Guardrails agar kamu melihat perannya di sistem, bukan sekadar menghafal definisi.
Kelihatan seperti apa di praktik
Dalam praktik Safety & Evaluation, Red Teaming biasanya muncul saat kamu bekerja dengan Prompt Injection, lalu perlu memastikan hasilnya tetap cocok dengan tujuan kerja.
Kenapa istilah ini penting
Red Teaming penting karena membantu kamu menguji kualitas, keamanan, dan batas penggunaan sebelum sistem dipakai orang lain.
Yang sering keliru dipahami
Mengira Red Teaming sama dengan Prompt Injection. Keduanya berkaitan, tetapi perannya berbeda dalam alur kerja AI.