Ketika AI Bisa Memutuskan Transaksi Sendiri, Siapa yang Bertanggung Jawab Jika Terjadi Kerugian?

Suara.com - Kecerdasan buatan atau artificial intelligence (AI) mulai memasuki fase baru di sektor keuangan. Teknologi ini tak lagi hanya digunakan untuk membantu manusia menganalisis data atau memberikan rekomendasi.

Perkembangan agentic AI memungkinkan sistem kecerdasan buatan mengambil keputusan secara lebih mandiri, bahkan menjalankan transaksi berdasarkan kewenangan yang diberikan kepadanya. 

Ketika keputusan tersebut menimbulkan kesalahan atau kerugian, muncul pertanyaan besar: siapa yang harus bertanggung jawab?

Wakil Menteri Komunikasi dan Digital (Wamen Komdigi), Nezar Patria, mengatakan perkembangan ini membawa risiko baru yang tidak bisa diabaikan. 

Regulasi dan tata kelola AI, menurutnya, perlu disiapkan sejak sekarang sebelum penggunaan teknologi dengan tingkat otonomi tinggi semakin meluas.

“Agentic AI apabila diberikan otoritas tertentu untuk decision making, dia bisa juga melakukan transaksi. Dan transaksi itu dilakukan antara agentic AI juga. AI dan AI berkomunikasi untuk memutuskan transaksi,” ujar Nezar dalam OJK Digination Day 2026 di Jakarta, Kamis (27/8/2026).

Pernyataan tersebut menunjukkan perubahan mendasar dalam perkembangan AI. Selama ini, AI umumnya masih berperan sebagai alat bantu. Sistem dapat memberikan analisis, rekomendasi, atau memproses data, tetapi manusia tetap berada di posisi pengambil keputusan akhir.

Situasinya berbeda ketika AI diberi kewenangan untuk menentukan tindakan dan langsung mengeksekusinya.

Risiko Berubah Ketika AI Mulai Bertindak Sendiri

Nezar menilai, semakin besar otonomi yang diberikan kepada AI, semakin besar pula risiko yang harus diantisipasi.

Kesalahan sistem tak lagi berhenti pada rekomendasi yang keliru. Dalam sektor keuangan, keputusan yang diambil AI berpotensi langsung memengaruhi transaksi, layanan, data pribadi, hingga akses konsumen terhadap produk keuangan.

“Risikonya tentu besar juga sehingga mitigasi, regulasi, dalam soal ini harus kita siapkan juga mulai sekarang,” tegas Nezar.

Tantangan yang muncul bukan sekadar soal memastikan teknologi bekerja dengan benar. Pemerintah dan pelaku industri juga perlu menentukan batas kewenangan AI, sejauh mana manusia tetap melakukan pengawasan, serta mekanisme pertanggungjawaban ketika keputusan yang dihasilkan sistem menimbulkan kerugian.

Persoalan ini menjadi semakin kompleks ketika satu sistem AI dapat berinteraksi dengan sistem AI lain untuk mengambil atau mengeksekusi keputusan.

Dalam kondisi tersebut, jejak pengambilan keputusan menjadi aspek penting. Ketika terjadi masalah, perlu ada kejelasan mengenai bagaimana keputusan dibuat, sistem mana yang terlibat, siapa yang memberikan kewenangan, dan pihak mana yang bertanggung jawab.

Regulasi AI Tak Bisa Menunggu

Kementerian Komunikasi dan Digital sebelumnya telah memiliki Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial sebagai salah satu acuan pemanfaatan AI secara bertanggung jawab.

Namun, perkembangan teknologi yang semakin cepat membuat kebutuhan tata kelola juga terus berubah.

Pemerintah kini tengah menyiapkan Peta Jalan Kecerdasan Artifisial Nasional dan panduan etika AI sebagai bagian dari penguatan kerangka tata kelola di Indonesia.

“Ini sedang dalam proses untuk bisa ditetapkan menjadi peraturan presiden bersama dengan panduan untuk etika artificial intelligence,” kata Nezar.

Bagi sektor keuangan, regulasi tersebut menjadi semakin penting. AI tidak hanya memproses informasi, tetapi berpotensi berada dalam rantai pengambilan keputusan yang berdampak langsung pada uang dan konsumen.

Karena itu, tata kelola perlu mencakup sejumlah aspek, mulai dari keamanan data, manajemen risiko, pengawasan manusia, transparansi sistem, hingga akuntabilitas ketika terjadi kesalahan.

Talenta AI Tak Cukup Hanya Jago Pakai Teknologi

Menurut Nezar, perubahan ini juga akan mengubah kebutuhan sumber daya manusia di era AI.

Talenta masa depan tidak cukup hanya memahami cara menggunakan teknologi kecerdasan buatan. Mereka juga harus mampu memahami data, risiko AI, keamanan siber, etika, dan pertanggungjawaban atas penggunaan teknologi tersebut.

“Talenta yang unggul di era AI ini bukan hanya mahir menggunakan teknologi, tetapi mereka juga harus mampu memastikan teknologi tetap berpihak pada manusia,” ungkap Nezar.

Komdigi dan Otoritas Jasa Keuangan (OJK) pun dinilai memiliki ruang kerja sama yang besar untuk membangun ekosistem AI di sektor keuangan. 

Kolaborasi dapat mencakup penyelarasan prinsip tata kelola, pengembangan talenta, hingga pengujian inovasi melalui sandbox lintas sektor.

“Kolaborasi antara Komdigi dan OJK inilah yang akan menjadi tulang punggung ekosistem keuangan digital yang inovatif sekaligus aman,” tandasnya.