Ketika AI Bisa Memutuskan Transaksi Sendiri, Siapa yang Bertanggung Jawab Jika Terjadi Kerugian?

Regulasi AI Tak Bisa Menunggu

Kementerian Komunikasi dan Digital sebelumnya telah memiliki Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial sebagai salah satu acuan pemanfaatan AI secara bertanggung jawab.

Namun, perkembangan teknologi yang semakin cepat membuat kebutuhan tata kelola juga terus berubah.

Pemerintah kini tengah menyiapkan Peta Jalan Kecerdasan Artifisial Nasional dan panduan etika AI sebagai bagian dari penguatan kerangka tata kelola di Indonesia.

“Ini sedang dalam proses untuk bisa ditetapkan menjadi peraturan presiden bersama dengan panduan untuk etika artificial intelligence,” kata Nezar.

Bagi sektor keuangan, regulasi tersebut menjadi semakin penting. AI tidak hanya memproses informasi, tetapi berpotensi berada dalam rantai pengambilan keputusan yang berdampak langsung pada uang dan konsumen.

Karena itu, tata kelola perlu mencakup sejumlah aspek, mulai dari keamanan data, manajemen risiko, pengawasan manusia, transparansi sistem, hingga akuntabilitas ketika terjadi kesalahan.

Talenta AI Tak Cukup Hanya Jago Pakai Teknologi

Menurut Nezar, perubahan ini juga akan mengubah kebutuhan sumber daya manusia di era AI.

Talenta masa depan tidak cukup hanya memahami cara menggunakan teknologi kecerdasan buatan. Mereka juga harus mampu memahami data, risiko AI, keamanan siber, etika, dan pertanggungjawaban atas penggunaan teknologi tersebut.

“Talenta yang unggul di era AI ini bukan hanya mahir menggunakan teknologi, tetapi mereka juga harus mampu memastikan teknologi tetap berpihak pada manusia,” ungkap Nezar.

Komdigi dan Otoritas Jasa Keuangan (OJK) pun dinilai memiliki ruang kerja sama yang besar untuk membangun ekosistem AI di sektor keuangan. 

Kolaborasi dapat mencakup penyelarasan prinsip tata kelola, pengembangan talenta, hingga pengujian inovasi melalui sandbox lintas sektor.

“Kolaborasi antara Komdigi dan OJK inilah yang akan menjadi tulang punggung ekosistem keuangan digital yang inovatif sekaligus aman,” tandasnya.