Kembali
Safety & Evaluation · Menengah
Guardrails
Aturan dan kontrol yang membatasi input, output, tool, atau tindakan sistem AI.
Definisi sederhana
Aturan dan kontrol yang membatasi input, output, tool, atau tindakan sistem AI.
Penjelasan tanpa jargon
Aturan dan kontrol yang membatasi input, output, tool, atau tindakan sistem AI. Biasanya istilah ini dipakai saat membuat test set, aturan data, validasi output, dan simulasi serangan.
Analogi
Seperti quality control, pagar pengaman, dan uji tabrak sebelum produk dipakai. Guardrails kurang lebih bekerja di bagian yang mengatur alurnya.
Contoh penggunaan
Contoh paling gampang: Guardrails dipakai saat membuat test set, aturan data, validasi output, dan simulasi serangan.
Kenapa penting
Kalau paham Guardrails, kamu mencegah output meyakinkan tetapi salah, berbahaya, atau membocorkan data.
Istilah terkait
- Moderation
- Output Validation
- Human-in-the-loop
Kesalahan pemula
Yang sering membuat keliru: mengandalkan satu filter dan menganggap sistem sudah aman. Guardrails juga beda dengan Moderation.