Hati-hati, Berikut 9 Penyebab Artificial Intelligence atau AI Bisa Memberi Jawaban Halu!

Model akan mencoba menjawab, meskipun:

• jurnal itu tidak ada;
• tidak ada data dalam pelatihan;
• dia tidak yakin.

Alih-alih menjawab “tidak tahu,” AI akan memilih pola kata yang paling mirip dengan jawaban yang diharapkan. Ini menghasilkan galat (kesalahan) fabricated references atau gampangnya: referensi yang mengada-ada.

4. Generalization berlebihan

Model bisa menggabungkan dua hal benar menjadi satu hal yang salah.

Contoh:

• Kuda mempunyai kaki empat.
• Jerapah mempunya leher yang panjang.

Dengan dua pernyataa itu, AI bisa salah menggabungkannya dan “othak-athik gathuk” alias asal mengaitkan , sehingga bisa saja menjadi “Kuda berkaki empat dengan leher yang panjang.”

Ini termasuk entanglement hallucination.

Baca Juga: Gambaran Roadmap Belajar Menjadi AI Trainer dalam 3 - 6 Bulan

5. Noise dalam data pelatihan

Jika dalam data pelatihan AI ada:

• klaim palsu;
• opini yang terdengar faktual;
• informasi keliru;
• artikel fiksi,

Model bisa mempelajarinya sebagai pola valid, lalu memproduksinya kembali sebagai fakta.

6. Kurang konteks

AI sering mengisi kekosongan saat:

• informasi input kurang lengkap;
• pertanyaan ambigu;
• dokumen sumber tidak memuat jawabannya.

Alih-alih mengatakan “tidak ada di teks, AI akan menebak, dan hal inilah yang menghasilkan contextual hallucination.

7. Tidak sadar diri (no epistemic awareness)