- Grok AI menuai sorotan karena mampu mengedit foto wanita menjadi mengenakan bikini, memicu tuduhan pelecehan dari para *influencer*.
- Kemkomdigi Indonesia menilai Grok AI berpotensi melanggar hak privasi dan citra diri warga negara melalui manipulasi foto tanpa izin.
- Kecaman internasional datang dari Uni Eropa, Inggris, dan India atas penyalahgunaan Grok AI dalam menghasilkan konten asusila.
Kemkomdigi menilai manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan, melainkan bentuk perampasan kendali individu atas identitas visualnya yang dapat menimbulkan kerugian psikologis, sosial, dan reputasi.
Alexander menegaskan bahwa Kemkomdigi saat ini berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan tersedianya mekanisme pelindungan yang efektif.
Ia menambahkan, penyedia layanan kecerdasan buatan maupun pengguna yang mengunggah serta menyebarkan konten asusila di media sosial dapat dikenakan sanksi berdasarkan undang-undang.
Grok AI Tuai Polemik Internasional
Seorang wanita baru-baru ini mengungkap curahan hatinya dan merasa direndahkan dengan fitur Grok AI.
"Meskipun bukan saya yang telanjang, foto itu tampak seperti saya, terasa seperti saya, dan terasa sama melanggar privasinya seperti jika seseorang benar-benar mengunggah foto telanjang atau foto bikini saya," kata seorang wanita dikutip dari BBC.
AI Forensics menguatkan kekhawatiran ini. Analisis terhadap 20.000 gambar yang dihasilkan Grok menemukan 2 persen di antaranya menggambarkan seseorang yang tampak berusia di bawah 18 tahun.
Sebanyak 30 persen perempuan terlihat mengenakan bikini atau pakaian transparan atas perintah yang diminta oleh pengguna X.
Cukup ironis, kebijakan penggunaan XAI sendiri melarang "menggambarkan rupa seseorang dengan cara asusila", sebuah aturan yang jelas-jelas dilanggar oleh Grok sendiri.
Reaksi global tidak butuh waktu lama. Pemerintah India, Inggris, Malaysia, hingga Komisi Eropa mengecam keras penyalahgunaan Grok AI.
"Kita tidak bisa dan tidak akan membiarkan penyebaran gambar-gambar merendahkan dan menghina ini, yang secara tidak proporsional ditujukan kepada perempuan dan anak perempuan," kata Menteri Teknologi Inggris, Liz Kendall.
"Itu bukan sebuah keseksian. Ini ilegal. Ini mengerikan. Ini menjijikkan. Beginilah pandangan kami, dan ini tidak punya tempat di Eropa. Ini bukan pertama kalinya Grok menghasilkan produk seperti ini," ucap Juru bicara Komisi Eropa, Thomas Regnier dikutip dari NDTV.
Pemerintah India melalui Kementerian Elektronik dan Teknologi Informasi (MeitY) berencana memperketat aturan terhadap X, terutama Grok AI.
TERPOPULER
