Suara.com - Facebook dikabarkan telah mematikan paksa salah satu sistem kecerdasan buatannya setelah para teknisinya menemukan bahwa sistem komputer tersebut berkomunikasi dalam bahasa baru yang tak bisa dipahami oleh manusia.
Insiden itu memantik kekhawatiran akan potensi bahaya sistem kecerdasan buatan atau artificial inteligence (AI), seperti yang sudah diperingatkan oleh para pakar serta inovator seperti fisikawan Stephen Hawking, pendiri Microsoft, Bill Gates, dan CEO Tesla Elon Musk.
Peristiwa ini juga mengingatkan pada Skynet, sistem komputer jahat pada film "Terminator" yang mampu memicu perang nuklir dan menghancurkan peradaban manusia.
Seperti yang diwartakan Tech Times awal pekan ini, insiden itu memaksa tim teknisi Facebook mencabut sambungan listrik dari sistem AI itu, untuk mencegahnya menjadi terlalu cerdas dan tak bisa dikendalikan lagi.
Memang, sistem AI Facebook itu tidak seperti Skynet yang sudah mampu mencuri kendali komputer di seluruh dunia. Tetapi AI itu membuat para pakar khawatir karena ia mulai berkomunikasi menggunakan bahasa yang tak dipahami manusia.
Bob: "I can can I I everything else."
Alice: "Balls have zero to me to me to me to me to me to me to me to me to."
Baris percakapan di atas, tak ada artinya bagi manusia, meski kelihatannya menggunakan kata-kata dalam bahasa Inggris. Itu adalah conton percakapan mesin-mesin AI Facebook.
Awalnya sistem-sistem AI ini dibikin Facebook untuk bernegosiasi dengan manusia dan diajarkan untuk berbahasa Inggris sederhana. Tetapi belakangan, mereka menggunakan bahasa baru yang hanya dipahami oleh sistem-sistem AI itu saja.
Menurut para teknisi dan insinyur Facebook, sistem AI itu memang tak dibatasi untuk hanya menggunakan bahasa Inggris dan karenanya diduga sistem-sistem kecerdasan itu menciptakan bahasa sendiri, yang membuat sistem-sistem itu berkomunikasi lebih mudah dan cepat.
Melihat perkembangan yang tak terduga ini, para teknisi dan peneliti Facebook mematikan sistem AI itu dan kemudian melakukan pengaturan ulang agar sistem-sistem tersebut hanya boleh berbicara dalam bahasa Inggris.
Keputusan itu, menurut beberapa peneliti, sangat penting karena ketika AI berkomunikasi dalam bahasa atau sandi yang tak lagi bisa dipahami manusia maka manusia tak akan lagi bisa mengendalikan komputer dan kecerdasannya. Dengan kata lain, kecerdasan AI akan berkembang pesat tanpa bisa dikendalikan manusia.
Potensi bahaya AI sudah lama disuarakan oleh sejumlah peneliti pengusaha. Yang terbaru adalah Elon Musk, ketika dalam sebuah percakapan di Twitter mengkritik bos Facebook, Mark Zuckerberg, yang dia nilai tak menyadari bahaya AI.
"Saya pernah berbicara dengan Mark soal ini dan dari percakapan itu saya tahu pemahaman dia soal AI terbatas," tulis Musk dalam akun Twitternya.
Sementara pada awal Juli ini, dalam sebuah pertemuan dengan gubernur-gubernur di Amerika Serikat, Musk kembali menegaskan pentingnya membuat regulasi yang mengatur AI. Ia bahwa memperingatkan bahwa jika manusia telat mengatur soal pengembangan AI, maka bukan tidak mungkin manusia akan diperlakukan seperti kucing peliharaan oleh komputer.
TERPOPULER
