REGIONAL:
Sementara itu, Ayu Purwarianti, peneliti dari Pusat AI ITB, menekankan bahwa AI harus selalu berada di bawah kendali manusia, menjamin keamanan data, serta transparan, dapat dijelaskan (explainable), dan akuntabel.
Ia menyatakan, “AI tidak boleh berbahaya dan bertentangan dengan prinsip dan keamanan manusia.”
Di sisi lain, penguatan literasi kecerdasan artifisial juga menjadi prioritas, termasuk pemahaman etika, adaptif mindset, dan pendidikan karakter sejak dini.
Iradat Wirid dari CfDS UGM mengingatkan bahwa AI yang human-centered bukan hanya tentang hasilnya, tapi juga tentang bagaimana AI dirancang dan siapa yang dilibatkan.
Merujuk pada pemikir awal AI seperti Norbert Wiener dan J.C.R. Licklider, ia menekankan bahwa inovasi teknologi harus berpihak pada manusia, bukan gadget worship.
Ia juga menyoroti empat tantangan besar dalam era AI yakni keamanan data, disinformasi, ketimpangan ekonomi, dan etika.
Indriaswati Dyah dari ELSAM menambahkan bahwa prinsip human-in-the-loop atau kehadiran manusia dalam seluruh siklus AI, dari pengembangan hingga operasional, harus menjadi prinsip utama.
Ia menilai bahwa konteks Indonesia sebagai negara pengguna teknologi (bukan produsen asal) menjadikan pendekatan hak asasi manusia dalam AI semakin penting.
“Kesadaran akan potensi risiko AI dalam menguatkan bias dan diskriminasi masih rendah,” ujarnya, seraya menekankan perlunya kolaborasi antar sektor di luar pemerintah.
Panel ketiga menyoroti pendidikan sebagai fondasi ekosistem AI yang beretika dan berkelanjutan.
Henke Yunkins dari Indonesia AI Society mengungkap bahwa AI bukan dirancang untuk jujur, tetapi untuk terdengar meyakinkan.
Ia menekankan pentingnya empat komponen dalam pendidikan AI, yakni literasi dasar, eksperimen, sosial-emosional, dan hasil pembelajaran yang lebih bermakna.
“Pendidikan bukan soal mengejar teknologi saja, tetapi membentuk manusia. Manusia yang harus menentukan arah perkembangan AI itu sendiri,” ujarnya.
Andy Ardian dari ECPAT Indonesia memperingatkan dampak AI terhadap privasi anak, terutama ketika anak-anak mulai berinteraksi dengan chatbot berbasis AI.
Ia menyoroti risiko bias data yang bisa memperkuat stereotip sosial serta ketergantungan teknologi yang menggerus kemampuan berpikir kritis anak-anak.
Sementara itu, Narenda Wicaksono dari Dicoding menekankan perlunya keterlibatan industri dalam menyusun kurikulum yang relevan.
“Setelah tahu dan bisa, harus ada keinginan juga dalam menjadi bagian dari perkembangan teknologi ini,” tuturnya.
Diena Haryana dari SEJIWA Foundation menambahkan bahwa anak-anak harus diperkuat keterampilan fisik, sosial, dan spiritualnya sebelum dikenalkan pada AI.
Ia menegaskan, “AI tidak boleh menggantikan masa bermain dan eksplorasi anak. Teknologi bisa menjadi alat bantu tanpa harus mengganggu proses tumbuh kembang anak.”
Guru-guru harus diberdayakan dan teknologi digunakan sebagai alat bantu, bukan tujuan akhir pendidikan.
Sedangkan dari sisi STEI ITB, menegaskan komitmennya untuk tidak hanya mengembangkan teknologi, tetapi juga nilai dan prinsip yang menopang penggunaannya.
Dengan menjadikan manusia sebagai pusat dan tujuan dari inovasi, Indonesia diharapkan mampu menavigasi transformasi digital secara berdaulat, bermartabat, dan berlandaskan nilai-nilai kemanusiaan.
TERPOPULER
