Hallucination, bias, dan batasan AI
AI bisa membantu cepat, tetapi juga bisa salah dengan gaya yang meyakinkan. Materi ini membahas hallucination, bias, dan cara memperlakukan output AI sebagai draft yang perlu diperiksa.
- Menjelaskan hallucination dan bias
- Membedakan draft AI dari fakta terverifikasi
- Membuat checklist verifikasi sederhana
Sebelum mulai
- Paham bahwa generative AI membuat output probabilistik.
- Siapkan satu jawaban AI yang berisi klaim faktual.
Konsep utama
01Hallucination
Hallucination terjadi saat AI menghasilkan informasi yang salah, tidak berdasar, atau tidak bisa diverifikasi, tetapi ditulis dengan percaya diri.
Kenapa penting: Kesalahan seperti ini bisa merusak kredibilitas konten, laporan, dan keputusan kerja.
Contoh: Model bisa mengarang judul jurnal, kutipan, harga terbaru, atau nama fitur yang tidak ada.
Yang sering keliru: Percaya pada gaya bahasa yang rapi tanpa membuka sumber.
02Bias
Bias muncul ketika data, instruksi, atau desain sistem membuat output cenderung tidak adil, sempit, atau tidak cocok dengan konteks lokal.
Kenapa penting: Bias bisa membuat rekomendasi AI merugikan kelompok tertentu atau mengabaikan realitas pengguna Indonesia.
Contoh: Prompt lowongan kerja bisa menghasilkan kriteria yang terlalu sempit kalau contoh datanya bias.
Yang sering keliru: Mengira output netral hanya karena dibuat mesin.
03Review manusia
Output AI sebaiknya diperlakukan sebagai draft yang perlu dibaca, dicek, dan disesuaikan oleh manusia.
Kenapa penting: Manusia tetap memegang konteks, etika, sumber, dan keputusan akhir.
Contoh: Untuk artikel publik, tandai semua angka, nama, tanggal, dan klaim sebelum publish.
Yang sering keliru: Langsung menyalin output AI ke pekerjaan berisiko tinggi.
Cara kerjanya
Hallucination adalah kondisi ketika AI menghasilkan informasi yang salah, tidak berdasar, atau tidak bisa diverifikasi, tetapi disampaikan dengan gaya meyakinkan. Ini terjadi karena model memprediksi jawaban yang paling mungkin secara bahasa, bukan selalu mengambil fakta dari database yang valid.
Bias bisa muncul dari data pelatihan, prompt pengguna, konteks yang tidak lengkap, atau asumsi model. Dalam penggunaan bisnis dan edukasi, bias bisa membuat output tidak adil, menyesatkan, atau tidak cocok dengan kondisi lokal.
Cara aman memakai AI: minta sumber untuk klaim faktual, cek tanggal, bandingkan beberapa sumber, minta model menandai ketidakpastian, dan jangan masukkan data sensitif sembarangan. Untuk keputusan hukum, medis, finansial, atau keselamatan, AI hanya boleh jadi assistant awal, bukan otoritas final.
Contoh nyata
Coba sendiri
- 1
Ambil satu jawaban AI yang berisi klaim faktual.
- 2
Tandai klaim yang perlu dicek.
- 3
Cari sumber primer atau sumber resmi.
- 4
Revisi jawaban AI berdasarkan verifikasi.
Prompt yang bisa dipakai
Cek pemahaman
Jawab dengan bahasa sendiri. Kalau masih muter-muter, baca ulang bagian yang paling nyangkut.
- 1
Apa itu hallucination?
- 2
Kenapa AI bisa salah walau terdengar yakin?
- 3
Data apa yang sebaiknya tidak dimasukkan ke AI publik?