Penjahat Siber Siap Memanfaatkan ChatGPT di Dark Web

Suara.com - Layanan Digital Footprint Intelligence Kaspersky telah menemukan hampir 3000 postingan dark web yang sebagian besar membahas penggunaan ChatGPT dan LLM lainnya untuk aktivitas ilegal.

Para penjahat siber ini sedang menjajaki skema, mulai dari menciptakan alternatif berbahaya dari chatbot hingga melakukan jailbreak pada chatbot asli dan seterusnya.

Akun dan layanan ChatGPT hasil curian yang menawarkan pembuatan otomatisnya secara massal juga membanjiri saluran dark web mencapai 3000 postingan lainnya.

Pada 2023, layanan Kaspersky Digital Footprint Intelligence menemukan hampir 3000 postingan di dark web, membahas penggunaan ChatGPT untuk tujuan ilegal atau berbicara tentang alat yang mengandalkan teknologi AI.

Meskipun obrolan mencapai puncaknya pada Maret, diskusi terus berlanjut.

“Aktor ancaman secara aktif menjajaki berbagai skema untuk mengimplementasikan ChatGPT dan AI," ujar Alisa Kulishenko, Analis jejak digital di Kaspersky.

Menurutnya, topiknya sering kali mencakup pengembangan malware dan jenis penggunaan model bahasa terlarang lainnya, seperti pemrosesan data pengguna yang dicuri, penguraian file dari perangkat yang terinfeksi, dan lainnya.

Dia menambahkan, popularitas alat AI telah menyebabkan integrasi respons otomatis dari ChatGPT atau sejenisnya ke dalam beberapa forum penjahat dunia maya.

"Selain itu, pelaku ancaman cenderung membagikan jailbreak melalui berbagai saluran dark web – serangkaian perintah khusus yang dapat membuka fungsionalitas tambahan – dan merancang cara untuk mengeksploitasi alat yang sah, seperti alat untuk pentesting, berdasarkan model untuk tujuan berbahaya,” beber Alisa Kulishenko.

Selain chatbot dan kecerdasan buatan yang disebutkan, banyak perhatian juga tertuju pada proyek seperti XXXGPT, FraudGPT, dan lainnya.

Model bahasa ini dipasarkan di dark web sebagai alternatif ChatGPT, dengan fungsionalitas tambahan dan tidak adanya batasan asli.

Ancaman lain bagi pengguna dan perusahaan adalah pasar akun ChatGPT versi berbayar.

Pada 2023, 3000 postingan lainnya (selain yang disebutkan sebelumnya) yang mengiklankan penjualan akun ChatGPT diidentifikasi di dark web dan saluran bayangan Telegram.

Postingan ini mendistribusikan akun curian atau mempromosikan layanan registrasi otomatis secara besar-besaran dengan membuat akun berdasarkan permintaan.

Khususnya, postingan tertentu berulang kali dipublikasikan di berbagai saluran dark web.

“Meskipun alat AI itu sendiri pada dasarnya tidak berbahaya, penjahat dunia maya mencoba menemuka cara yang efisien dalam menggunakan model bahasa, sehingga memicu tren untuk menjadikannya ancaman dunia maya dan, dalam beberapa kasus, berpotensi meningkatkan jumlah serangan siber," ungkapnya.

Namun, dia menambahkan, kecil kemungkinannya bahwa AI generatif dan chatbots akan merevolusi lanskap serangan – setidaknya pada tahun 2024.

"Meskipun demikian, tetap mendapatkan informasi tentang aktivitas penyerang sangat penting untuk menjadi yang terdepan dalam hal keamanan siber perusahaan”, tutup Alisa Kulishenko, Analis jejak digital di Kaspersky dalam keterangan resminya, Senin (12/2/2024).