Suara.com - Baru-baru ini Google telah melarang algoritma deepfake dari Google Colaboratory, itu adalah layanan komputasi gratis dengan akses ke GPU.
Pakar Kaspersky telah menjelaskan apa itu deepfake dan mengapa ada begitu banyak kontroversi di
sekitarnya.
Deepfake biasanya mengacu pada berbagai jenis media buatan komputer yang melibatkan orang-orang dan dibuat dengan neural network. Ini mungkin video, foto, atau rekaman suara.
Alih-alih menggunakan teknik pengeditan gambar tradisional, penggunaan deep learning telah menggeser kebutuhan akan keterampilan dan upaya untuk membuat gambar palsu yang meyakinkan.
Awalnya, istilah tersebut merujuk pada perangkat lunak tertentu yang telah mendapatkan popularitas di Reddit.
Perangkat lunak tersebut dapat menanamkan wajah seseorang ke dalam video yang menampilkan orang lain.
Hampir seluruhnya digunakan untuk membuat pornografi non-konsensual dengan selebriti.
Menurut beberapa perkiraan, hingga 96 persen dari semua deepfake adalah pornografi, ini sekaligus menyoroti kekhawatiran seputar deepfake yang digunakan untuk pelecehan, pemerasan, dan
mempermalukan publik.
Teknologi ini juga dapat membantu para pelaku kejahatan siber.
Baca Juga: Buzzer Virtual Jadi Risiko Metaverse di Indonesia
Penelitian terbaru menunjukkan bahwa algoritma deteksi liveness komersial, yang digunakan oleh lembaga keuangan dalam prosedur KYC, dapat tertipu oleh deepfake yang dibuat dari foto ID, menciptakan vektor serangan baru sehingga membuat kebocoran identitas menjadi masalah yang lebih serius.
Masalah lainnya adalah bahwa deepfake merusak rasa kepercayaan terhadap konten audio dan video karena dapat digunakan untuk tujuan berbahaya.
Berbagai pakar dan institusi, seperti Europol, memperingatkan bahwa meningkatnya ketersediaan deepfake dapat menyebabkan proliferasi lebih lanjut terkait disinformasi di Internet.
Namun tidak semuanya merupakan berita buruk. Manipulasi gambar sama tuanya dengan gambar itu
sendiri, dan CGI telah ada selama beberapa dekade, dan keduanya telah dimanfaatkan untuk penggunaan yang layak, seperti halnya deepfake.
Dalam film Top Gun: Maverick, sebuah algoritma digunakan untuk menyuarakan karakter Val Kilmer setelah sang aktor kehilangan suaranya.
Algoritma deepfake juga digunakan untuk membuat serial TikTok viral yang dibintangi oleh Tom Cruise palsu.
