Satu hal yang juga disorot dalam pertemuan puncak tersebut adalah meningkatnya peran AI dalam kejahatan dunia maya.
Salah satunya, mampu meningkatkan serangan rekayasa sosial dengan membuat email yang terdengar lebih alami dan masukan untuk serangan phishing, pembuatan kata sandi, pembuatan kode malware, dan bahkan melakukan serangan kata sandi.
Munculnya AI juga berarti bahwa penjahat dunia maya berpotensi menargetkan korban potensial melalui serangan adversarial, dengan membuat modifikasi kecil pada file sehingga sistem AI dapat dimanipulasi untuk menganggap suatu malware sebagai file yang aman.
Untuk lebih meningkatkan keamanan dan tingkat deteksi, Kaspersky meniru serangan adversarial pada model deteksi malware mereka sendiri.
”Serangan terkait AI mengalami pertumbuhan yang pesat saat ini," kata Alexey Antonov, Kepala Ilmuwan Data di Kaspersky.
Menurutnya, dua bagian utama menjadi poin kali ini.
Pertama adalah AI ofensif - di mana musuh menggunakan teknik canggih untuk mempercepat rutinitas mereka atau menemukan vektor ancaman baru untuk menerapkannya.
"Deep fake, yang menyebar luas tahun ini, hanyalah salah satu contohnya," tambah dia.
Kedua adalah kerentanan AI - beberapa model AI dapat dipaksa oleh musuh untuk melakukan hal-hal yang dibatasi atau tidak terduga.
Kaspersky juga memanfaatkan AI untuk mendeteksi serangan berbahaya dan ancaman yang muncul, terutama melihat jumlah potensi malware yang terjadi dengan 411.000 sampel malware unik terdeteksi setiap hari pada 2024.
Jumlah ini mengalami peningkatan dari 403.000 setiap hari pada 2023.
Salah satu isu paling mendesak yang disoroti di pertemuan puncak tersebut adalah bagaimana serangan rantai pasokan berpotensi merusak infrastruktur penting seperti rumah sakit, bank, maskapai penerbangan, dan lainnya.
“Potensi dari serangan rantai pasokan pada model pembelajaran mesin adalah memanipulasi data pelatihan untuk memperkenalkan bias dan kerentanan ke dalam model atau memodifikasi model AI dengan versi yang diubah sehingga akan menghasilkan keluaran yang salah," terang Vitaly Kamluk, pakar Keamanan Siber GReAT di Kaspersky.
Karena AI akan terus ada, dia menambahkan, serangan semacam itu mungkin memiliki dampak yang belum pernah terjadi sebelumnya.
Menurutnya, serangan terhadap utilitas Linux XZ yang menjadi ketergantungan wajib layanan Secure Shell (SSH) berpotensi berubah menjadi pintu belakang di jutaan perangkat Internet of Things (IoT), server, dan peralatan jaringan yang bergantung padanya berhasil dideteksi dan digagalkan tepat waktu.
TERPOPULER
