Pejuangkantoran.com - Chatbot AI memang disebut bisa membantu dalam berbagai aspek kehidupan. Bahkan, ada yang meminta saran mengenai kesehatan dengan mengunggah data medis pribadi.
Jika kamu belum pernah melakukannya, bagus. Namun bagi kamu yang pernah mencobanya, mulai sekarang pikir dua kali.
Pendukung keamanan dan privasi telah lama memperingatkan bahwa setiap data sensitif yang diunggah dapat digunakan untuk melatih model AI dan berisiko mengekspos informasi pribadi dan sensitif di kemudian hari.
Baca Juga: Layanan Open Banking BRIAPI Raih Trofi Best API Initiative berkat Prinsip Teknologi yang Humanis
Mulai banyak yang melakukannya
Model AI generatif sering dilatih menggunakan data yang mereka terima, dengan landasan berpikir bahwa data yang diunggah akan membantu membangun informasi dan akurasi output model.
Saat ini, orang-orang sering beralih ke chatbot AI generatif, seperti ChatGPT OpenAI dan Gemini Google, untuk mengajukan pertanyaan tentang masalah medis untuk lebih memahami kesehatan mereka.
Hal ini bermula ketika Oktober 2024 lalu para pengguna media sosial X disarankan oleh CEO Elon Musk untuk mengunggah hasil X-ray, MRI, dan pemindaian PET mereka ke platform chatbot AI, Grok, untuk membantu menafsirkan hasilnya.
"Coba kirimkan gambar sinar-X, PET, MRI, atau gambar medis lainnya ke Grok untuk dianalisis," tulis Musk di X bulan lalu.
Baca Juga: Dari Nol ke Sukses: UMKM Tumbuh Bersama Rumah BUMN BRI
"Ini masih tahap awal, tetapi sudah cukup akurat dan akan menjadi sangat bagus. Beri tahu kami di mana Grok melakukannya dengan benar atau perlu perbaikan."
Ternyata, Grok perlu perbaikan.
Menurut beberapa pengguna, AI berhasil menganalisis hasil tes darah dan mengidentifikasi kanker payudara. Namun, AI juga salah menafsirkan informasi lain, menurut dokter yang menanggapi unggahan Musk.
Dalam satu contoh, Grok salah mengira textbook case tuberkulosis sebagai herniasi diskus atau stenosis tulang belakang. Dalam contoh lain, bot tersebut salah mengira mammogram kista payudara jinak sebagai gambar testis.
Apa yang bisa terjadi?