Kamus AI
Istilah · Safety & Evaluation
Prompt Injection
Instruksi berbahaya yang mencoba mengubah aturan model atau menyalahgunakan akses tool.
Apa itu Prompt Injection
Instruksi berbahaya yang mencoba mengubah aturan model atau menyalahgunakan akses tool. Hubungkan istilah ini dengan System Prompt dan Guardrails agar kamu melihat perannya di sistem, bukan sekadar menghafal definisi.
Kelihatan seperti apa di praktik
Dalam praktik Safety & Evaluation, Prompt Injection biasanya muncul saat kamu bekerja dengan System Prompt, lalu perlu memastikan hasilnya tetap cocok dengan tujuan kerja.
Kenapa istilah ini penting
Prompt Injection penting karena membantu kamu menguji kualitas, keamanan, dan batas penggunaan sebelum sistem dipakai orang lain.
Yang sering keliru dipahami
Mengira Prompt Injection sama dengan System Prompt. Keduanya berkaitan, tetapi perannya berbeda dalam alur kerja AI.