Penyelewengan AI: Suara Bos Ferrari Ditiru untuk Penipuan, Nyaris Bikin Perusahaan Merugi

Suara.com - Kemajuan pesat kecerdasan buatan (AI) kini memberikan alat baru bagi penipu untuk menipu bahkan target berprofil tinggi.

Baru-baru ini, sebuah skema penipuan deepfake menimpa seorang eksekutif Ferrari, dengan beberapa pesan dan panggilan yang tampaknya berasal dari CEO Benedetto Vigna.

Beruntung, eksekutif tersebut berhasil mengelabui penipu dengan mengajukan pertanyaan pribadi untuk verifikasi.

Kronologi Penipuan

Semua bermula dari serangkaian pesan WhatsApp dari seseorang yang mengaku sebagai CEO Ferrari. Pesan-pesan tersebut, yang meminta bantuan mendesak terkait akuisisi rahasia, datang dari nomor yang berbeda namun menampilkan foto profil Vigna di depan lambang Ferrari.

Menurut laporan Carscoops, salah satu pesan berbunyi: “Hei, apakah kamu mendengar tentang akuisisi besar yang kami rencanakan? Saya butuh bantuanmu.”

Penipu melanjutkan, “Bersiaplah untuk menandatangani Perjanjian Kerahasiaan yang akan dikirimkan oleh pengacara kami secepatnya.”

Pesan tersebut diakhiri dengan nada mendesak: “Regulator pasar Italia dan bursa saham Milan sudah diberitahu. Jaga kerahasiaan sepenuhnya.”

Setelah pesan teks, eksekutif tersebut menerima panggilan telepon yang menampilkan peniruan suara Vigna yang meyakinkan, lengkap dengan aksen khas Italia selatan sang CEO.

Penelepon mengklaim menggunakan nomor yang berbeda karena sifat sensitif dari masalah tersebut dan kemudian meminta eksekutif untuk melakukan transaksi lindung nilai mata uang yang tidak ditentukan.

Tanda-Tanda Kecurigaan

Permintaan uang yang aneh, ditambah dengan beberapa “intonasi mekanis” selama panggilan, menimbulkan kecurigaan bagi eksekutif Ferrari.

Dia menjawab, “Maaf, Benedetto, tapi saya perlu memverifikasi identitasmu,” dan menguji CEO dengan pertanyaan tentang buku yang dia rekomendasikan beberapa hari sebelumnya.

Tidak mengherankan, peniru tersebut gagal menjawab dan segera mengakhiri panggilan.

Perwakilan Ferrari menolak berkomentar tentang insiden tersebut. Situasi ini, yang terjadi awal bulan ini, sedang diselidiki oleh perusahaan.

Peringatan dan Prediksi

Ini bukan pertama kalinya AI digunakan oleh penipu untuk menguras uang. Rachel Tobac, CEO perusahaan keamanan siber SocialProof Security, memperingatkan, “Tahun ini kita melihat peningkatan penjahat yang mencoba meniru suara menggunakan AI.”

Stefano Zanero, seorang profesor keamanan siber di Politecnico di Milano, dengan suram memprediksi bahwa deepfake yang didukung AI hanya akan semakin menakutkan dan menjadi “sangat akurat”.

Sampai perusahaan dapat melengkapi staf mereka dengan detektor super, tanggung jawab ada pada individu untuk sangat waspada.

Periksa ulang, periksa tiga kali – bahkan empat kali sebelum mentransfer uang, tidak peduli siapa yang meminta, bahkan jika itu bos Anda.