Mantan Karyawan Google Khawatirkan Robot Pembunuh di Sekitar Kita

Suara.com - Seorang mantan ahli perangkat lunak di Google telah memperingatkan bahwa robot otonom "pembunuh" secara tidak sengaja dapat memulai perang di masa depan.

Laura Nolan, yang dulunya bekerja di raksasa teknologi itu sebelum mengundurkan diri tahun lalu, menyerukan persenjataan otomatis dilarang oleh perjanjian internasional. Dia mengatakan bahwa teknologi militer yang secara artifisial cerdas harus dilarang dengan cara yang sama seperti senjata kimia.

Alasannya adalah bahwa tidak seperti drone yang dikendalikan manusia. Mesin otonom dapat melakukan sesuatu yang tidak terduga dan akhirnya memulai Perang Dunia Ketiga.

Nolan keluar dari Google sebagai protes setelah diminta untuk mengerjakan proyek meningkatkan teknologi drone militer AS. Namun, tidak ada informasi bahwa Google sedang membangun atau meneliti segala jenis mesin pembunuh otonom.

Namun, Nolan adalah anggota yang vokal dari Kampanye Menghentikan Robot Pembunuh yang berbicara kepada PBB di New York dan Jenewa, tentang kemungkinan hal seperti ini benar-benar terjadi.

"Mungkin ada kecelakaan berskala besar karena hal-hal ini akan mulai berlaku tidak terduga," katanya kepada Guardian dikutip Metro.

Itulah sebabnya setiap sistem senjata canggih harus tunduk pada kontrol manusia. Jika tidak, mereka harus dilarang karena mereka terlalu tak terduga dan berbahaya.

Proyek yang digarap Nolan di Google - dikenal sebagai Project Maven, yang ditangguhkan setelah lebih dari 3.000 karyawan menandatangani petisi menentangnya.

Gagasan di baliknya adalah bahwa kecerdasan buatan yang terlatih dapat memutar selama berjam-jam konten video drone dan dengan cepat membedakan antara manusia dan benda. Di masa depan, itu bisa membuat UAV lebih akurat ketika mencari target.

Setelah mengundurkan diri, Nolan memperkirakan bahwa permintaan senjata otonom akan tumbuh dengan konsekuensi fatal.

"Anda dapat memiliki skenario di mana senjata otonom yang telah dikirim untuk melakukan pekerjaan menghadapi sinyal radar yang tidak terduga di daerah yang mereka cari. Mungkin ada hal yang tidak diperhitungkan dalam perangkat lunaknya atau mereka menemukan sekelompok lelaki bersenjata yang tampaknya adalah musuh pemberontak tetapi sebenarnya keluar dengan senjata berburu makanan," katanya.

Mesin tidak memiliki pemahaman atau akal sehat yang dimiliki oleh sentuhan manusia. Hal menakutkan lainnya tentang sistem perang otonom ini adalah Anda hanya dapat benar-benar mengujinya dengan menempatkannya di zona pertempuran nyata.