Heboh Mahasiswi ITB Jadi Korban Foto AI Telanjang, Wamenkomdigi Ingatkan soal Etika

Suara.com - Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria, memberikan tanggapan serius terkait kasus pelecehan seksual berbasis teknologi yang menimpa mahasiswi Institut Teknologi Bandung (ITB).

Diketahui kasus tersebut melibatkan seorang mahasiswa yang menyalahgunakan teknologi Artificial Intelligence (AI) untuk mengubah foto sejumlah mahasiswi menjadi konten telanjang.

Kasus nudifikasi ini sempat viral di media sosial X, disebutkan bahwa pelaku telah disanksi berupa skorsing akademik selama satu semester.

"Jadi ini memang peristiwa-peristiwa yang mungkin akan terjadi kalau kita memakai AI tidak dengan panduan etis gitu ya," kata Nezar ditemui di UGM, Jumat (17/4/2026).

Nezar menekankan bahwa insiden di lingkungan kampus tersebut menjadi pengingat akan pentingnya regulasi yang mengatur batasan penggunaan teknologi mutakhir atau AI.

"Kita menghimbau agar pemakaian dan pengembangan artificial intelligence ini ikut menyertakan perspektif etika," kata dia.

Menurutnya, tanpa landasan etika yang kuat, inovasi teknologi justru berisiko menjadi instrumen pelanggaran norma dan hukum di masyarakat. Termasuk dalam kasus pelecehan seksual di ruang digital belakang ini.

Lebih lanjut, disampaikan Nezar, pemerintah tengah menyusun satu dokumen etika AI. Hal itu digunakan untuk melengkapi peta jalan AI secara nasional.

Diharapkan aturan itu akan dikuatkan dengan penetapan sebagai Peraturan Presiden. Di sisi lain, pihaknya mendorong para pengembang teknologi untuk menerapkan prinsip ethics by design.

Prinsip ini menuntut agar setiap platform atau aplikasi kecerdasan buatan sudah menanamkan batasan etis sejak tahap awal perancangan sebelum teknologi tersebut dapat diakses oleh publik.

"Jadi memang kita sih berharap ya agar pengembangan AI ini memikirkan sisi etis yang kita sebut dengan ethics by design. Jadi ketika didesain unsur-unsur etika itu sudah dipertimbangkan," tegasnya.

Pemerintah menyoroti kemudahan akses berupa Generative AI yang saat ini memungkinkan siapa saja memproduksi konten visual secara instan.

Jika tidak dibatasi, fitur tersebut sangat rentan digunakan untuk menciptakan konten kontroversial. Mulai dari sentimen SARA hingga materi pornografi yang merugikan orang lain.

"Termasuk misalnya apakah layak atau boleh menghasilkan konten-konten yang akan kontroversial secara misalnya mungkin memuat sentimen agama, sentimen atau juga yang mengandung unsur pornografi misalnya seperti itu ya," tambahnya.

Nezar tidak menampik bahwa pesatnya perkembangan teknologi AI saat ini membawa tantangan besar dalam hal pengawasan.

"Kita lihat kan betapa mudahnya ya untuk berbuat atau menggunakan aplikasi itu kemudian menciptakan dengan Gen AI bisa menciptakan yang namanya gambar-gambar yang mengandung unsur pornografi," ujarnya.

Meskipun pemerintah berkomitmen untuk tidak menghalangi inovasi digital di tanah air, Nezar menegaskan bahwa setiap produk teknologi yang beredar di masyarakat harus memiliki tanggung jawab moral.

"Kita berharap para pengembang itu bisa aware dengan soal ini dan melakukan satu solusi-solusi teknologi. Kita tidak membatasi inovasinya ya, cuma ketika satu produk ini dilemparkan ke tengah masyarakat, maka unsur etis itu harus dipertimbangkan," tandasnya.