Sementara itu, Ayu Purwarianti, peneliti dari Pusat AI ITB, menekankan bahwa AI harus selalu berada di bawah kendali manusia, menjamin keamanan data, serta transparan, dapat dijelaskan (explainable), dan akuntabel.
Ia menyatakan, “AI tidak boleh berbahaya dan bertentangan dengan prinsip dan keamanan manusia.”
Di sisi lain, penguatan literasi kecerdasan artifisial juga menjadi prioritas, termasuk pemahaman etika, adaptif mindset, dan pendidikan karakter sejak dini.
Iradat Wirid dari CfDS UGM mengingatkan bahwa AI yang human-centered bukan hanya tentang hasilnya, tapi juga tentang bagaimana AI dirancang dan siapa yang dilibatkan.
Merujuk pada pemikir awal AI seperti Norbert Wiener dan J.C.R. Licklider, ia menekankan bahwa inovasi teknologi harus berpihak pada manusia, bukan gadget worship.
Ia juga menyoroti empat tantangan besar dalam era AI yakni keamanan data, disinformasi, ketimpangan ekonomi, dan etika.
Indriaswati Dyah dari ELSAM menambahkan bahwa prinsip human-in-the-loop atau kehadiran manusia dalam seluruh siklus AI, dari pengembangan hingga operasional, harus menjadi prinsip utama.
Ia menilai bahwa konteks Indonesia sebagai negara pengguna teknologi (bukan produsen asal) menjadikan pendekatan hak asasi manusia dalam AI semakin penting.
“Kesadaran akan potensi risiko AI dalam menguatkan bias dan diskriminasi masih rendah,” ujarnya, seraya menekankan perlunya kolaborasi antar sektor di luar pemerintah.
Panel ketiga menyoroti pendidikan sebagai fondasi ekosistem AI yang beretika dan berkelanjutan.
Henke Yunkins dari Indonesia AI Society mengungkap bahwa AI bukan dirancang untuk jujur, tetapi untuk terdengar meyakinkan.
Ia menekankan pentingnya empat komponen dalam pendidikan AI, yakni literasi dasar, eksperimen, sosial-emosional, dan hasil pembelajaran yang lebih bermakna.
“Pendidikan bukan soal mengejar teknologi saja, tetapi membentuk manusia. Manusia yang harus menentukan arah perkembangan AI itu sendiri,” ujarnya.
Andy Ardian dari ECPAT Indonesia memperingatkan dampak AI terhadap privasi anak, terutama ketika anak-anak mulai berinteraksi dengan chatbot berbasis AI.
Ia menyoroti risiko bias data yang bisa memperkuat stereotip sosial serta ketergantungan teknologi yang menggerus kemampuan berpikir kritis anak-anak.
TERPOPULER
