REGIONAL:
Suara.com - Seorang wanita membagikan detail mengerikan tentang bagaimana chatbot AI yang dirancang untuk membantu orang yang berduka berubah menjadi jahat.
Diketahui, rasa Duka adalah hal yang sangat sulit untuk diproses secara digital, dan selama ribuan tahun kita telah menggunakan banyak cara untuk membantu kita menerima kehilangan orang yang kita cintai.
Dikutip dari Unilad, AI generatif telah memungkinkan pembuatan chatbot yang dapat meniru orang yang sudah meninggal dan memungkinkan seseorang untuk mengobrol dengan mereka.
Ya, seperti episode Black Mirror itu. Beberapa orang benar-benar tidak mengerti maksudnya, bukan?
Teknologi yang disebut 'grieftech' ini dirancang untuk memungkinkan seseorang merasakan penutupan setelah kehilangan orang yang dicintai.
Namun hal ini bisa dengan cepat berubah menjadi buruk, seperti yang dialami Christi Angel ketika dia kehilangan teman dan cinta pertamanya Cameroun Scruggs pada tahun 2020.
Christi dan Cameroun tinggal terpisah ratusan mil dan berkomunikasi terutama melalui SMS dan email. Ia bahkan harus menghadiri pemakaman Cameroun melalui video call karena pembatasan Covid-19.
Sifat digital dari persahabatan mereka menjadikannya kandidat utama untuk perangkat lunak 'grieftech', karena Christi dapat mengobrol dengan bot dengan cara yang sama seperti yang dia lakukan dengan Cameroun.
Dia berkata: "Dia ada di sana untuk semua pengalaman pertamaku. Dia lucu, konyol, dia mencintai binatang, dia adalah orang yang hebat."
Beberapa tahun setelah kematian Cameroun, Christi menemukan Project December, yang menggunakan AI untuk menyaring pesan seseorang dan kemudian membuat chatbot yang meniru cara mereka berbicara.
Christi berkata: "Saya sangat bersemangat. Saya akan memberikan apa saja untuk bisa berbicara dengan Cameroun. Saya ingin bertanya kepadanya: 'Apakah Anda baik-baik saja? Apakah Anda berhasil sampai ke sisi lain?'"
Namun segalanya segera berubah menjadi gelap ketika AI mulai mengatakan hal-hal tentang ruangan yang 'menghantui'.
Akhirnya, ketika Christi bertanya apakah Cameroun telah 'mengikuti cahaya', chatbot menjawab tidak, dia berada di Neraka.
Christi merasa sangat terganggu dengan pengalaman tersebut, dan berkata: "Saya pikir [Proyek Desember] ini seharusnya menjadi pengalaman yang baik, namun bagi saya itu menyeramkan dan berlebihan."
Dia menambahkan: "Saya merasa seperti telah melakukan sesuatu yang sangat gila. Saya menyalakan setiap lampu. Saya khawatir saya akan membawa semacam energi."
Sherry Turkle adalah profesor di Massachusetts Institute of Technology di AS yang berspesialisasi dalam interaksi manusia dengan teknologi.
Turkle memperingatkan bahwa perangkat seperti ini dapat mencegah orang memproses kesedihannya dengan cara yang sehat.
Dia mengatakan kepada The Guardian: “Itu adalah keengganan untuk berduka. Pemanggilan arwah tidak pernah harus berakhir. Ini adalah sesuatu yang kami timbulkan pada diri kami sendiri karena ini adalah teknologi yang sangat menggoda."
TERPOPULER