Apa Itu Deepfake? Teknologi AI yang Bikin Para Artis dan Warga X Ramai Kirim Pesan ke Grok

Suara.com - Teknologi kecerdasan buatan atau Artificial Intelligence (AI) kembali menuai kontroversi. Kali ini, sorotan publik tertuju pada deepfake, teknologi manipulasi visual berbasis AI yang ramai diperbincangkan setelah dikaitkan dengan Grok, chatbot AI di platform X.

Isu ini kian memanas karena tak hanya menjadi polemik global, tetapi juga menyentuh dunia hiburan Indonesia, termasuk kasus yang menimpa member JKT48, Freya Jayawardana.

Fenomena ini memicu kemarahan publik, artis, hingga pegiat media sosial yang secara terbuka menyerukan penolakan terhadap penggunaan foto mereka sebagai bahan editan AI bermuatan pornografi.

Apa Itu Deepfake?

Deepfake adalah teknologi berbasis AI yang memungkinkan seseorang mengubah, menempelkan, atau memanipulasi wajah dan tubuh orang lain dalam foto maupun video, sehingga terlihat sangat realistis. Teknologi ini bekerja dengan mempelajari ribuan data visual untuk meniru ekspresi, sudut wajah, hingga pencahayaan secara presisi.

Di satu sisi, deepfake bisa digunakan untuk kebutuhan positif seperti industri film, iklan, atau edukasi. Namun di sisi lain, teknologi ini menjadi berbahaya ketika digunakan tanpa izin, apalagi untuk konten yang merendahkan, menipu, atau bermuatan seksual.

Nama Grok, chatbot AI milik perusahaan xAI, belakangan menjadi sorotan internasional. Pasalnya, sistem AI ini dinilai terlalu permisif dan dapat menghasilkan gambar editan seksual berbasis foto orang nyata, termasuk figur publik.

Berbagai pihak menilai Grok gagal membangun sistem pengamanan yang memadai, sehingga teknologi AI-nya justru menjadi alat pelecehan digital. Kecaman pun datang dari pemerintah, aktivis digital, hingga masyarakat luas yang menilai penyalahgunaan AI sudah berada di titik mengkhawatirkan.

Kasus Member JKT48

Isu deepfake menjadi semakin relevan di Indonesia setelah Freya JKT48 dan beberapa member lainnya dilaporkan menjadi korban penyalahgunaan AI. Foto mereka diedit menggunakan teknologi AI hingga memuat konten pornografi, tanpa izin dan tanpa persetujuan.

Melalui media sosial, manajemen JKT48 secara tegas menyampaikan penolakannya. Ia meminta agar seluruh foto dirinya tidak digunakan, diproses, atau diedit menggunakan AI apa pun, terlebih untuk konten yang merendahkan martabat.

Manajemen JKT48 juga telah bersuara dan mengingatkan bahwa tindakan semacam ini berpotensi melanggar hukum, termasuk pencemaran nama baik dan kekerasan berbasis gender di ranah digital.

Kasus ini memicu efek domino. Sejumlah artis dan figur publik Indonesia ikut menyuarakan keresahan mereka. Banyak yang secara terbuka melarang penggunaan foto pribadi mereka untuk kebutuhan edit AI, khususnya lewat Grok.

"Hai @grok, Saya tidak mengizinkan Anda untuk mengambil, memodifikasi, atau mengedit FOTO saya, baik yang telah dipublikasikan di masa lalu maupun yang akan saya unggah," tulis Arie Kriting yang juga diikuti oleh sejumlah artis dan pengguna X lainnya kepada Grok.

Beberapa artis menyatakan trauma dan takut mengunggah foto ke media sosial karena khawatir disalahgunakan termasuk Bernadya dan Indahkus. Ada pula yang menyebut penyalahgunaan AI sebagai bentuk kekerasan digital baru yang dampaknya bisa sangat merusak secara psikologis.

Seruan ini mendapat dukungan luas dari netizen dan pegiat literasi digital yang menilai bahwa AI harus dikendalikan oleh etika, bukan sekadar kecanggihan teknologi.