Hati-hati, Berikut 9 Penyebab Artificial Intelligence atau AI Bisa Memberi Jawaban Halu!

AI tidak mengetahui batas kemampuannya sendiri. AI tidak memiliki:

• “Saya tidak tahu.”
• “Ini di luar data saya.”
• “Saya tidak yakin ini benar.”

Kecuali ditambah sistem khusus seperti:

• verifikasi fakta;
• RAG (Retrieval-Augmented Generation);
• self-reflection;
• chain-of-thought validation;
• rule-based hallucination detection.

Tanpa mekanisme ini, AI tampil percaya diri meski salah.

Baca Juga: 6 Poin Cara Melatih Keterampilan Imajinasi Kamu Agar mampu Membuat Prompting Yang Berkelas

8. Prompt yang memaksa

Prompt seperti:

• “Buat daftar 10 studi tentang…”
• “Apa saja tiga alasan ilmiah…”
• “Siapa penemu X?” (padahal tidak ada penemunya),

mengharuskan model memberi output meski faktanya tidak ada, sehingga muncullah halusinasi.

9. Masalah instrinsik LLM (confabulation)

Secara ilmiah, fenomena ini disebut confabulation, yaitu:

• AI menghasilkan jawaban koheren tapi tidak benar;
• mirip manusia mengarang cerita agar narasi tetap utuh.

Ini bukan bug, ini sifat bawaan model generatif. ***