Hati-hati, Berikut 9 Penyebab Artificial Intelligence atau AI Bisa Memberi Jawaban Halu!

Pejuangkantoran.com – Ai atau artificial intelligence ternyata juga bisa mengalami “halu”. Ini adalah situasi ketika AI menghasilkan jawaban yang salah, mengada-ada, tidak didukung data, atau keyakinannya tidak sebanding dengan kebenaran fakta.

Dalam konteks Language Large Model (LLM), hallucination berarti AI “berhalusinasi” dengan membuat jawaban yang terdengar meyakinkan, tetapi tidak benar atau tidak berdasar. Dan ini sangat berbahaya jika kta menggunakan secara mentah-mentah jawaban-jawaban halusinatif AI.

AI bisa memberikan jawaban halusinasi karena cara kerjanya bukan memahami fakta, tetapi memprediksi kata berikutnya berdasarkan pola dalam data latih.

Akibatnya, ketika AI kurang yakin atau kekurangan data, ia mengarang jawaban yang tampak meyakinkan.

Ini bisa terjadi karena pada dasarnya:

1. LLM adalah mesin prediksi kata, bukan mesin kebenaran

Model seperti GPT dilatih untuk:

• memprediksi kata yang paling mungkin;
• membuat teks yang koheren;
• terdengar natural.

Tetapi model tidak memiliki mekanisme bawaan untuk memverifikasi apakah jawabannya benar atau tidak. Saat tidak tahu jawabannya, AI tetap memprediksi kata yang tampak “masuk akal”, yang pada akhirnya menjadi halusinasi.

Baca Juga: Peluang Besar Menjadi AI Trainer alias Pelatih AI, Supaya AI Menjadi Lebih Manusiawi

2. Tidak punya pengetahuan faktual yang rigid

AI tidak memiliki:

• database fakta permanen;
• peta kebenaran;
• kemampuan membedakan “benar” vs “salah.”

Semua “pengetahuan” AI adalah pola statistik dari teks yang dibacanya. Jika pola itu tidak lengkap, sangat mungkin AI akan membuat hubungan antarfakta yang palsu atau “othak-athik gathuk” saja.

3. Tekanan untuk selalu menjawab

Secara default, AI berusaha memenuhi permintaan pengguna.
Jika kamu bertanya: “Sebutkan jurnal Harvard 2017 tentang tidur polifasik.”