Apple Hapus Aplikasi Hasilkan Gambar Bugil Menggunakan AI Generatif dari App Store

Suara.com - Hanya beberapa hari setelah tersiar kabar tentang fitur AI yang bermasalah dalam melepas pakaian di ponsel Huawei, berita serupa juga muncul mengenai Apple (melalui 404 Media).

Perusahaan tersebut dilaporkan telah menghapus tiga aplikasi dari App Store yang diiklankan sebagai “generator seni”.

Namun, aplikasi tersebut mempromosikan di Instagram dan situs dewasa yang mengklaim bahwa mereka dapat “menjadikan gadis mana pun bugil secara gratis.”

Aplikasi-aplikasi ini mengeksploitasi AI generatif untuk membuat gambar bugil palsu dari individu yang berpakaian.

Meskipun gambar tersebut tidak menggambarkan bugil yang sebenarnya, aplikasi ini dapat menghasilkan gambar yang dapat digunakan untuk pelecehan, pemerasan, dan pelanggaran privasi.

Hal yang mengkhawatirkan adalah tanggapan Apple muncul setelah 404 Media membagikan tautan ke aplikasi dan iklan mereka.

Anehnya, aplikasi ini telah tersedia di App Store sejak 2022, mengiklankan fitur “menanggalkan pakaian” di situs dewasa.

Laporan tersebut juga menunjukkan bahwa aplikasi-aplikasi ini awalnya diizinkan untuk tetap berada di App Store jika mereka menghapus iklan dari situs dewasa.

Namun, salah satu aplikasi tersebut menjalankan iklan hingga 2024, ketika Google menariknya dari Play Store.

Dilansir dari laman Gizmochina, Senin (29/4/2024), Apple kini akhirnya memutuskan untuk menghapusnya dari App Store.

Namun agak mengkhawatirkan melihat sifat reaktif dari moderasi toko aplikasi dan potensi pengembang untuk mengeksploitasi celah.

Insiden ini terjadi pada saat yang sensitif bagi Apple. WWDC 2024 sudah dekat dan perusahaan diperkirakan akan membuat pengumuman AI besar-besaran untuk iOS 18 dan Siri.

Apple telah secara aktif membangun reputasi untuk pengembangan AI yang bertanggung jawab, sampai melisensikan data pelatihan secara etis.