Ketika para peneliti menganalisis penolakan-penolakan tersebut secara manual, mereka menemukan hal yang mengejutkan.
Claude memberikan jawaban dengan nada merendahkan, menggurui, atau mengejek sebanyak 43,7 persen kepada pengguna dengan tingkat pendidikan rendah. Sebaliknya, hal ini terjadi kurang dari 1 persen pada pengguna berpendidikan tinggi.
Dalam beberapa kasus, chatbot AI tersebut bahkan meniru gaya bahasa Inggris yang patah-patah atau menggunakan dialek yang berlebihan.
Untuk topik sensitif seperti nuklir atau sejarah, Claude menolak menjawab pengguna dari Iran atau Rusia, padahal bisa menjawab dengan benar buat yang lain.
Ini mirip perilaku manusia. Studi sosial bilang native speaker sering menganggap non-native kurang pintar, walau faktanya nggak.
Baca Juga: Lowongan School Psychiatrist di Sekolah Lentera Kasih buat yang Senang Berinteraksi dengan Anak
Jad Kabbara mengatakan jika efek negatif ini terus terjadi, risikonya menyebarkan informasi yang salah ke pengguna yang paling rentan. Sebab, mereka susah membedakan yang benar atau salah.
Poole-Dayan menambahkan, chatbot AI malah bisa meningkatkan kesenjangan dengan memberikan jawaban yang salah atau menolak menjawab pengguna yang paling membutuhkan.
Implikasinya besar, terutama di negara berkembang di mana bahasa Inggris bukan bahasa ibu. Pengembang AI dinilai perlu segera memitigasi penyimpangan ini, mungkin lewat fine-tuning data yang beragam atau audit secara rutin.