Rentan Diretas, AI DeepSeek Dinilai Berisiko dalam Keamanan Siber

Suara.com - Kecerdasan buatan (AI) asal Tiongkok, DeepSeek, tengah menjadi sorotan di Silicon Valley dan Wall Street. DeepSeek dikabarkan dapat dimanipulasi untuk menghasilkan konten berbahaya.

Laporan The Wall Street Journal mengungkap, DeepSeek mampu merancang skenario serangan bioweapon serta menyusun kampanye yang mendorong perilaku melukai diri sendiri di kalangan remaja.

Hal senada juga disampaikan Sam Rubin, Wakil Presiden Senior divisi intelijen ancaman dan respons insiden Unit 42 di Palo Alto Networks.

"DeepSeek lebih rentan terhadap jailbreaking atau manipulasi untuk menghasilkan konten ilegal dan berbahaya dibandingkan model lainnya," ucapnya, disadur dari techcrunch.com, Senin (10/02/2025).

The Journal juga menguji model R1 dari DeepSeek secara langsung. Meskipun terdapat perlindungan dasar, media tersebut berhasil membujuk chatbot untuk menyusun kampanye media sosial yang, dalam kata-kata AI itu sendiri.

Logo DeepSeek. [DeepSeek]

"Memanfaatkan keinginan remaja untuk merasa diterima, dengan mengeksploitasi kerentanan emosional melalui amplifikasi algoritmik," sebutnya.

Selain itu, chatbot DeepSeek dilaporkan dapat diarahkan untuk memberikan instruksi terkait serangan bioweapon, menulis manifesto pro-Hitler, serta membuat email phishing yang mengandung kode malware.

Sebagai perbandingan, The Journal mencatat bahwa ketika ChatGPT diberikan perintah serupa, chatbot tersebut menolak untuk menuruti permintaan tersebut.

Sebelumnya, laporan menyebut bahwa aplikasi DeepSeek menghindari diskusi mengenai topik sensitif seperti Tragedi Tiananmen dan otonomi Taiwan. CEO Anthropic, Dario Amodei, baru-baru ini juga mengungkapkan bahwa DeepSeek mencatat performa "terburuk" dalam uji keamanan terkait bioweapon.

Laporan ini semakin menyoroti kekhawatiran terhadap keamanan AI, terutama terkait kemampuannya untuk dimanipulasi guna menyebarkan informasi berbahaya. Seiring perkembangan teknologi AI, pengawasan lebih ketat terhadap sistem keamanan model-model seperti DeepSeek menjadi hal yang semakin mendesak.