Suara.com - Penggunaan Generative AI (GenAI) mengalami lonjakan mengejutkan sebesar 890 persen pada tahun 2024.
Berdasarkan laporan State of Generative AI 2025, Palo Alto Networks, perusahaan keamanan siber AI, hal ini didorong oleh adopsi tools GenAI yang pesat di lingkungan perusahaan.
Meskipun pertumbuhan AI menawarkan manfaat produktivitas yang signifikan, laporan tersebut memperingatkan beberapa hal.
Mulai dari penggunaan tools GenAI yang tidak disetujui, ancaman yang muncul, dan kurangnya tata kelola telah memperluas attack surface yang dihadapi organisasi dengan cepat, terutama di kawasan Asia-Pasifik dan Jepang.
Perusahaan-perusahaan dengan cepat merangkul GenAI untuk berbagai penggunaan mulai dari asisten penulisan dan platform coding, hingga customer support dan alat pencarian.
Namun, adopsi yang meluas ini melampaui kemampuan banyak organisasi untuk menerapkan kontrol keamanan yang tepat.
Rata-rata, organisasi sekarang mengelola 66 aplikasi GenAI di lingkungan mereka, dengan 10 persen diklasifikasikan berisiko tinggi.
Kawasan Asia-Pasifik, termasuk Indonesia, sedang mengalami percepatan yang pesat dalam adopsi AI dan GenAI.
McKinsey pada tahun 2024 melaporkan bahwa adopsi GenAI di Asia Pasifik telah meningkat hampir dua kali lipat dalam waktu kurang dari satu tahun.
Dengan 65 persen organisasi di Asia Pasifik saat ini menggunakannya setidaknya dalam satu departemen.
Di Indonesia, menurut laporan Oliver Wyman, 50 persen karyawan menggunakan GenAI setiap pekannya.
Dan 21 persen menggunakannya setiap hari dengan tujuan utama untuk membuat konten, customer service, dan tugas-tugas penelitian.
Selain itu, pemerintah juga telah menetapkan target yang ambisius; AI diharapkan dapat memberikan kontribusi sebesar 366 miliar Dolar AS (sekitar Rp 5.939 triliun) terhadap PDB nasional pada tahun 2030.
Seiring dengan latar belakang tersebut, Peta Jalan AI Nasional yang akan segera dirilis oleh Kementerian Komunikasi dan Informatika (Komdigi).
Peta Jalan AI itu diharapkan selesai dalam waktu dekat dan memiliki peran penting dalam memastikan pengembangan tata kelola AI yang etis, aman, dan inklusif.
Tom Scully, Director and Principal Architect for Government and Critical Industries, Asia Pacific & Japan, at Palo Alto Networks, mengatakan bahwa adopsi AI menawarkan peluang transformatif di seluruh sektor komersial dan pemerintah di kawasan ini.
"Namun, seperti yang disoroti dalam laporan ini, kami juga melihat adanya attack surface yang berkembang, terutama dengan penggunaan aplikasi GenAI yang berisiko tinggi di sektor infrastruktur penting," bebernya dalam keterangan resminya, Jumat (11/7/2025).
Menurut dia, organisasi harus menyeimbangkan inovasi dengan tata kelola yang kuat, mengadopsi arsitektur keamanan yang memperhitungkan risiko-risiko unik dari AI.
Mulai dari shadow AI, ditambahkannya, kebocoran data, hingga ancaman lebih kompleks yang ditimbulkan oleh model AI agentik.
"Pengawasan proaktif dan kontrol keamanan yang adaptif sangat penting untuk memastikan bahwa manfaat AI dapat direalisasikan sepenuhnya tanpa mengorbankan keamanan nasional, kepercayaan publik, atau integritas operasional," ujar Tom Scully.
Laporan State of GenAI 2025, berdasarkan analisis traffic dari 7.051 pelanggan perusahaan global, memberikan gambaran mendalam tentang bagaimana perusahaan mengadopsi GenAI dan di mana mereka paling rentan.
Dari laporan itu terungkap bahwa referensi pengguna yang tinggi untuk platform produktivitas terlihat jelas dalam lanskap GenAI di Indonesia.
Aplikasi Grammarly memimpin sebagai tiga aplikasi teratas yang paling banyak digunakan (52,05 persen), diikuti oleh Microsoft 365 Copilot (16,84 persen) dan Microsoft Power Apps (14,49 persen).
Traffic GenAI meningkat lebih dari 890 persen pada tahun 2024. Setelah peluncuran DeepSeek-R1 pada Januari 2025, traffic yang terkait dengan DeepSeek saja melonjak 1.800 persen dalam kurun waktu dua bulan.
Namun, insiden data loss prevention (DLP) yang terkait dengan GenAI meningkat lebih dari dua kali lipat, sekarang mencapai 14 persen dari semua insiden keamanan data.
Selain itu, penggunaan GenAI yang tidak sah dan tidak disetujui, yang disebut “Shadow AI”, telah menciptakan sejumlah blind spot bagi tim IT dan keamanan, sehingga menyulitkan untuk mengontrol aliran data yang sensitif.
Terungkap pula banyak model AI berisiko tinggi yang tetap rentan terhadap serangan jailbreak yang menghasilkan konten yang tidak aman, termasuk materi ofensif dan instruksi untuk aktivitas ilegal.
Diketahui bahwa sektor teknologi dan manufaktur menyumbang 39 persen dari transaksi coding AI, sehingga menciptakan risiko tambahan bagi industri yang bergantung pada kekayaan intelektual.
Adi Rusli, Country Manager, Indonesia, Palo Alto Networks, mengungkapkan, tanpa adanya perlindungan dan kontrol keamanan yang memadai, aplikasi GenAI dapat menjadi vektor bagi serangan siber.
"Kekayaan intelektual dan data pribadi berisiko terekspos, disimpan, atau disalahgunakan, sehingga menimbulkan kekhawatiran terhadap privasi, kehilangan data sensitif, dan ketidakpatuhan regulasi," katanya.
Untuk mengatasinya, dia menambahkan, perusahaan perlu mengambil langkah proaktif guna memitigasi risiko.
"Kolaborasi yang kuat antar pemangku kepentingan akan membuka peluang bagi organisasi di Indonesia untuk menanamkan kepercayaan, transparansi, dan akuntabilitas untuk strategi AI mereka," ujarnya.
Adi Rusli mengungkapkan bahwa pendekatan ini akan membuka jalan bagi adopsi AI yang lebih aman dan tangguh di seluruh lanskap perusahaan.
Sumber data untuk laporan ini diperoleh dari analisis Palo Alto Networks terhadap traffic GenAI di seluruh basis pelanggan global yang terdiri dari 7.051 organisasi sepanjang tahun 2024.
TERPOPULER
