Hallucination

Output AI yang salah atau tidak berdasar tetapi terdengar meyakinkan.

Output AI yang salah atau tidak berdasar tetapi terdengar meyakinkan. Biasanya istilah ini dipakai saat membuat test set, aturan data, validasi output, dan simulasi serangan.

Seperti quality control, pagar pengaman, dan uji tabrak sebelum produk dipakai. Hallucination kurang lebih bekerja di bagian yang mengatur alurnya.

Contoh paling gampang: Hallucination dipakai saat membuat test set, aturan data, validasi output, dan simulasi serangan.

Kalau paham Hallucination, kamu mencegah output meyakinkan tetapi salah, berbahaya, atau membocorkan data.

Yang sering membuat keliru: mengandalkan satu filter dan menganggap sistem sudah aman. Hallucination juga beda dengan Grounding.