Ketika AI Bisa Memutuskan Transaksi Sendiri, Siapa yang Bertanggung Jawab Jika Terjadi Kerugian?

Suara.com - Kecerdasan buatan atau artificial intelligence (AI) mulai memasuki fase baru di sektor keuangan. Teknologi ini tak lagi hanya digunakan untuk membantu manusia menganalisis data atau memberikan rekomendasi.

Perkembangan agentic AI memungkinkan sistem kecerdasan buatan mengambil keputusan secara lebih mandiri, bahkan menjalankan transaksi berdasarkan kewenangan yang diberikan kepadanya. 

Ketika keputusan tersebut menimbulkan kesalahan atau kerugian, muncul pertanyaan besar: siapa yang harus bertanggung jawab?

Wakil Menteri Komunikasi dan Digital (Wamen Komdigi), Nezar Patria, mengatakan perkembangan ini membawa risiko baru yang tidak bisa diabaikan. 

Regulasi dan tata kelola AI, menurutnya, perlu disiapkan sejak sekarang sebelum penggunaan teknologi dengan tingkat otonomi tinggi semakin meluas.

“Agentic AI apabila diberikan otoritas tertentu untuk decision making, dia bisa juga melakukan transaksi. Dan transaksi itu dilakukan antara agentic AI juga. AI dan AI berkomunikasi untuk memutuskan transaksi,” ujar Nezar dalam OJK Digination Day 2026 di Jakarta, Kamis (27/8/2026).

Pernyataan tersebut menunjukkan perubahan mendasar dalam perkembangan AI. Selama ini, AI umumnya masih berperan sebagai alat bantu. Sistem dapat memberikan analisis, rekomendasi, atau memproses data, tetapi manusia tetap berada di posisi pengambil keputusan akhir.

Situasinya berbeda ketika AI diberi kewenangan untuk menentukan tindakan dan langsung mengeksekusinya.

Risiko Berubah Ketika AI Mulai Bertindak Sendiri

Nezar menilai, semakin besar otonomi yang diberikan kepada AI, semakin besar pula risiko yang harus diantisipasi.

Kesalahan sistem tak lagi berhenti pada rekomendasi yang keliru. Dalam sektor keuangan, keputusan yang diambil AI berpotensi langsung memengaruhi transaksi, layanan, data pribadi, hingga akses konsumen terhadap produk keuangan.

“Risikonya tentu besar juga sehingga mitigasi, regulasi, dalam soal ini harus kita siapkan juga mulai sekarang,” tegas Nezar.

Tantangan yang muncul bukan sekadar soal memastikan teknologi bekerja dengan benar. Pemerintah dan pelaku industri juga perlu menentukan batas kewenangan AI, sejauh mana manusia tetap melakukan pengawasan, serta mekanisme pertanggungjawaban ketika keputusan yang dihasilkan sistem menimbulkan kerugian.

Persoalan ini menjadi semakin kompleks ketika satu sistem AI dapat berinteraksi dengan sistem AI lain untuk mengambil atau mengeksekusi keputusan.

Dalam kondisi tersebut, jejak pengambilan keputusan menjadi aspek penting. Ketika terjadi masalah, perlu ada kejelasan mengenai bagaimana keputusan dibuat, sistem mana yang terlibat, siapa yang memberikan kewenangan, dan pihak mana yang bertanggung jawab.