Red Teaming

Pengujian dengan mencoba menemukan cara sistem gagal atau disalahgunakan.

Pengujian dengan mencoba menemukan cara sistem gagal atau disalahgunakan. Biasanya istilah ini dipakai saat membuat test set, aturan data, validasi output, dan simulasi serangan.

Seperti quality control, pagar pengaman, dan uji tabrak sebelum produk dipakai. Red Teaming kurang lebih bekerja di bagian yang mengatur alurnya.

Contoh paling gampang: Red Teaming dipakai saat membuat test set, aturan data, validasi output, dan simulasi serangan.

Kalau paham Red Teaming, kamu mencegah output meyakinkan tetapi salah, berbahaya, atau membocorkan data.

Yang sering membuat keliru: mengandalkan satu filter dan menganggap sistem sudah aman. Red Teaming juga beda dengan Prompt Injection.