Grok Matikan Fitur Image Generator usai Dikecam soal Konten Seksual dan Kekerasan pada Perempuan

PejuangKantoran.com - Grok, tool AI milik Elon Musk, akhirnya menonaktifkan fitur pembuatan gambar (image generator) untuk sebagian besar pengguna setelah menuai kecaman luas.

Keputusan ini diambil menyusul maraknya penggunaan Grok untuk membuat gambar dan video seksual serta kekerasan, termasuk memanipulasi foto perempuan untuk menanggalkan pakaian tanpa persetujuan.

Dalam pernyataan di platform X, akun resmi Grok mengatakan, “Pembuatan dan pengeditan gambar saat ini terbatas untuk pelanggan berbayar.”

Baca Juga: Lisa Blackpink bakal Jadi Artis K-pop Pertama yang Menjadi Presenter di Golden Globes 2026

Artinya, sebagian besar pengguna tidak bisa lagi membuat gambar lewat Grok. Bagi pengguna berbayar, identitas dan informasi kartu kredit yang digunakan untuk pembayaran akan tersimpan, sehingga lebih mudah dilacak jika terjadi penyalahgunaan.

Langkah ini muncul setelah Elon Musk menghadapi ancaman denda, tindakan regulator, hingga wacana pelarangan X di Inggris. Penelitian yang diungkap The Guardian menunjukkan Grok digunakan untuk membuat video pornografi perempuan tanpa persetujuan mereka, serta gambar perempuan yang ditembak atau dibunuh.

Bukan hanya itu, ada laporan bahwa di aplikasi Grok terpisah, pengguna non-berbayar masih bisa menghasilkan konten seksual, termasuk yang melibatkan perempuan dan anak-anak.

Perdana Menteri Inggris, Keir Starmer, bereaksi keras. Ia meminta X untuk mengendalikan banjir konten AI yang ia sebut memalukan dan menjijikkan.

Ia menegaskan bahwa larangan de facto terhadap X harus dipertimbangkan, dan bahwa regulator komunikasi Ofcom mendapat dukungan penuh pihaknya untuk mengambil tindakan terkait hal tersebut.

Di bawah Online Safety Act, Ofcom bahkan berwenang memblokir situs atau aplikasi dan menjatuhkan denda hingga 10% dari omzet global perusahaan.

Baca Juga: Kembali Satukan Amanda Manopo dan Fajar Sadboy, 'Check Out Sekarang, Pay Later' Bakal Jadi Obat Pusing Nasional

“Ini melanggar hukum. Kami tidak akan mentolerirnya. Saya telah meminta agar semua opsi dipertimbangkan. X perlu memperbaiki diri dan menghapus materi ini. Kami akan mengambil tindakan karena ini sama sekali tidak dapat ditoleransi,” tambah Starmer.

Ribuan gambar seksualisasi perempuan telah dibuat tanpa persetujuan mereka selama dua minggu terakhir, setelah fitur image generator Grok diperbarui pada akhir Desember.

Publik sudah berulang kali menyerukan pada Elon Musk untuk menghapus atau membatasi fitur tersebut, tetapi hingga saat ini X belum mengambil tindakan.

Tekanan publik juga datang dari parlemen. Jess Asato, anggota parlemen dari Partai Buruh, menilai pembatasan ini belum cukup. Fakta bahwa pengguna berbayar masih bisa melakukan manipulasi tersebut tetap tidak bisa dibenarkan.