Model akan mencoba menjawab, meskipun:
- jurnal itu tidak ada;
- tidak ada data dalam pelatihan;
- dia tidak yakin.
Alih-alih menjawab “tidak tahu,” AI akan memilih pola kata yang paling mirip dengan jawaban yang diharapkan. Ini menghasilkan galat (kesalahan) fabricated references atau gampangnya: referensi yang mengada-ada.
4. Generalization berlebihan
Model bisa menggabungkan dua hal benar menjadi satu hal yang salah.
Contoh:
- Kuda mempunyai kaki empat.
- Jerapah mempunya leher yang panjang.
Dengan dua pernyataa itu, AI bisa salah menggabungkannya dan “othak-athik gathuk” alias asal mengaitkan , sehingga bisa saja menjadi “Kuda berkaki empat dengan leher yang panjang.”
Ini termasuk entanglement hallucination.
Baca Juga: Gambaran Roadmap Belajar Menjadi AI Trainer dalam 3 - 6 Bulan
5. Noise dalam data pelatihan
Jika dalam data pelatihan AI ada:
- klaim palsu;
- opini yang terdengar faktual;
- informasi keliru;
- artikel fiksi,
Model bisa mempelajarinya sebagai pola valid, lalu memproduksinya kembali sebagai fakta.
6. Kurang konteks
AI sering mengisi kekosongan saat:
- informasi input kurang lengkap;
- pertanyaan ambigu;
- dokumen sumber tidak memuat jawabannya.
Alih-alih mengatakan “tidak ada di teks, AI akan menebak, dan hal inilah yang menghasilkan contextual hallucination.
7. Tidak sadar diri (no epistemic awareness)