REGIONAL:
Suara.com - Sebuah video "deepfake" yang memparodikan Kamala Harris, klip Joe Biden yang sarat sumpah serapah yang dimanipulasi, dan gambar hasil rekayasa dari penangkapan Donald Trump, gelombang disinformasi politik yang dipicu oleh AI telah memicu kekhawatiran atas potensi video tersebut memanipulasi pemilih sebagai warga AS. Pemilihan presiden AS pun semakin memanas.
Dalam pemilu yang disebut-sebut sebagai pemilu AI pertama di Amerika pada bulan November, para peneliti memperingatkan bahwa pemalsuan yang dimungkinkan oleh teknologi dapat digunakan untuk mengarahkan pemilih agar memilih atau menjauh dari kandidat, atau bahkan menghindari pemilu sama sekali, sehingga memicu ketegangan di lingkungan yang sudah hiperpolarisasi.
Gelombang disinformasi baru-baru ini telah memperbarui seruan kepada raksasa teknologi, yang banyak di antaranya telah berhenti memoderasi konten media sosial, untuk memperkuat batasan seputar kecerdasan buatan generatif menjelang pemungutan suara.
Pekan lalu, Elon Musk menghadapi kritik keras karena membagikan video deepfake yang menampilkan Wakil Presiden Harris, calon calon dari Partai Demokrat, dengan 192 juta pengikutnya di X, yang sebelumnya bernama Twitter.
Di dalamnya, sulih suara yang meniru Harris menyebut Presiden Joe Biden pikun; suara itu kemudian menyatakan bahwa dia "tidak tahu apa pun tentang menjalankan negara".
Video tersebut tidak menunjukkan indikasi bahwa itu adalah parodi, kecuali emoji tertawa. Baru kemudian Musk mengklarifikasi bahwa video tersebut dimaksudkan sebagai sindiran.
Para peneliti menyatakan keprihatinannya bahwa pemirsa dapat menyimpulkan secara keliru bahwa Harris mencemooh dirinya sendiri dan menjelek-jelekkan Biden.
Para pemeriksa fakta AFP telah membantah pemalsuan AI lainnya yang menimbulkan kekhawatiran.
Bulan lalu, sebuah video yang dimanipulasi dan diputar di X tampaknya menunjukkan Biden mengutuk para pengkritiknya, termasuk menggunakan penghinaan anti-LGBTQ, setelah dia mengumumkan bahwa dia tidak akan mencalonkan diri kembali dan mendukung Harris untuk nominasi Partai Demokrat.
Pencarian gambar terbalik menunjukkan rekaman tersebut berasal dari salah satu pidato Biden, yang disiarkan langsung oleh stasiun televisi PBS, di mana ia mengecam kekerasan politik setelah upaya pembunuhan terhadap Trump pada 13 Juli.
PBS mengatakan video yang direkayasa itu adalah deepfake yang menggunakan logonya untuk menipu pemirsa.
Beberapa minggu sebelumnya, sebuah gambar yang dibagikan di berbagai platform menunjukkan polisi menangkap Trump secara paksa setelah juri di New York memutuskan dia bersalah karena memalsukan catatan bisnis terkait pembayaran uang tutup mulut kepada bintang porno Stormy Daniels.
Tapi foto itu palsu, kata pakar forensik digital kepada AFP.
TERPOPULER
