Menurutnya, bersedia membayar untuk membuat lubang peluru, atau menambahkan bikini pada perempuan tetap merupakan pelecehan seksual digital. "xAI harus menonaktifkan fitur tersebut untuk selamanya,” tegasnya.
Di luar platform X, masalahnya ternyata lebih luas. Riset AI Forensics menemukan sekitar 800 gambar dan video dari aplikasi Grok Imagine yang mengandung pornografi dan kekerasan seksual.
Baca Juga: Combiphar Group Siapkan Lowongan Kerja Executive Assistant sebagai Tangan Kanan Direktur
“Ini adalah video pornografi sepenuhnya dan terlihat profesional,” kata peneliti AI Forensics, Paul Bouchaud, sambil menambahkan bahwa konten seksual tersebut secara keseluruhan jauh lebih eksplisit daripada tren bikini yang sebelumnya diamati di X.
Kasus Grok ini kembali membuka diskusi lama di kantor-kantor dan ruang publik, bahwa teknologi AI berkembang cepat, tetapi batasan etika dan regulasinya sering tertinggal.
Pembatasan fitur image generator mungkin langkah awal, namun tekanan regulator dan publik menunjukkan bahwa tuntutan akuntabilitas terhadap platform AI akan semakin besar ke depannya.