Kembali
Safety & Evaluation · Menengah

Bias

Pola ketidakadilan atau kecenderungan sistem yang berasal dari data, desain, atau penggunaan.

Definisi sederhana

Pola ketidakadilan atau kecenderungan sistem yang berasal dari data, desain, atau penggunaan.

Penjelasan tanpa jargon

Pola ketidakadilan atau kecenderungan sistem yang berasal dari data, desain, atau penggunaan. Biasanya istilah ini dipakai saat membuat test set, aturan data, validasi output, dan simulasi serangan.

Analogi

Seperti quality control, pagar pengaman, dan uji tabrak sebelum produk dipakai. Bias kurang lebih bekerja di bagian yang memroses informasinya.

Contoh penggunaan

Contoh paling gampang: Bias dipakai saat membuat test set, aturan data, validasi output, dan simulasi serangan.

Kenapa penting

Kalau paham Bias, kamu mencegah output meyakinkan tetapi salah, berbahaya, atau membocorkan data.

Istilah terkait

  • Training Data
  • Red Teaming
  • Eval

Kesalahan pemula

Yang sering membuat keliru: mengandalkan satu filter dan menganggap sistem sudah aman. Bias juga beda dengan Training Data.