REGIONAL:
"Mereka juga telah digunakan dalam beberapa cara atau bentuk sebelumnya. Tetapi di sini, mereka benar-benar menunjukkan kegunaannya," jelas Franke. "Itu menunjukkan betapa sulitnya untuk melawan sistem (AI) ini."
Penelitian yang dilakukan Pusat Studi Strategis dan Internasional menunjukkan bahwa Azerbaijan memiliki keunggulan besar dalam amunisi berkeliaran, dengan lebih dari 200 unit dari empat desain asal Israel yang canggih. Sementara Armenia memiliki satu model domestik.
"Sejak konflik, Anda pasti bisa melihat peningkatan minat pada amunisi yang berkeliaran," kata Franke. "Kami telah melihat lebih banyak angkatan bersenjata di seluruh dunia memperoleh atau ingin memperoleh amunisi yang berkeliaran ini."
Kawanan drone dan 'perang kilat'
Diprediksi, teknologi berbasis AI seperti drone swarm - drone yang beroperasi bersama sebagai satu kesatuan - akan digunakan untuk keperluan militer.
"Anda bisa melumpuhkan sistem pertahanan udara, misalnya,” kata Martijn Rasser dari Center for a New American Security, sebuah lembaga pemikir yang berbasis di Washington.
"Anda meluncurkan begitu banyak kawanan dan begitu banyak jumlah sehingga sistem kewalahan. Ini, tentu saja, memiliki banyak manfaat taktis di medan perang,” katanya kepada DW. "Tidak mengherankan, banyak negara sangat tertarik untuk mengejar jenis kemampuan ini."
Skala dan kecepatan drone swarm membuka prospek bentrokan militer yang begitu cepat dan kompleks sehingga manusia tidak dapat mengikutinya, semakin memicu dinamika perlombaan senjata.
"Beberapa aktor mungkin terpaksa mengadopsi tingkat sistem otonom tertentu, setidaknya secara defensif, karena manusia tidak akan mampu menangani serangan otonom dengan cepat," jelas Ulrike Franke.
Faktor kecepatan yang kritis ini bahkan dapat menyebabkan perang yang meletus entah dari mana, dengan sistem otonom bereaksi satu sama lain. "Dalam literatur kami menyebutnya 'perang kilat'. Konflik militer yang tidak disengaja yang tidak Anda inginkan," ungkapnya.
Sebuah langkah untuk 'menghentikan robot pembunuh'
Bonnie Docherty, dosen Sekolah Hukum Harvard yang juga merupakan pendiri Kampanye untuk Menghentikan Robot Pembunuh, sebuah aliansi organisasi non-pemerintah yang menuntut perjanjian global untuk melarang senjata otonom yang mematikan, tengah berupaya untuk mencegah terjadinya masa depan tersebut.
"Kewajiban menyeluruh dari perjanjian itu adalah untuk mempertahankan kontrol manusia yang berarti atas penggunaan pasukan," kata Docherty kepada DW. "Itu harus menjadi perjanjian yang mengatur semua senjata yang beroperasi secara otonom yang memilih target dan menembaknya berdasarkan input sensor daripada input manusia.”
Kampanye telah difokuskan pada pembicaraan di Jenewa di bawah payung Konvensi PBB tentang Senjata Konvensional Tertentu, yang berupaya mengendalikan senjata yang dianggap menyebabkan penderitaan yang tidak dapat dibenarkan.
Meski berjalan lambat, seperangkat "prinsip panduan" telah dihasilkan, termasuk bahwa senjata otonom harus tunduk pada hukum hak asasi manusia, dan bahwa manusia memiliki tanggung jawab utama untuk penggunaannya.
Docherty khawatir bahwa keputusan pembicaraan di Jenewa yang terikat konsensus dapat digagalkan oleh kekuatan yang tidak tertarik pada perjanjian tersebut.
"Rusia sangat keras dalam keberatannya," kata Docherty. "Beberapa negara lain yang mengembangkan sistem senjata otonom seperti Israel, AS, Inggris, dan lainnya tentu saja tidak mendukung perjanjian baru," ia menambahkan.
Waktu untuk berpikir kembali?
Docherty menyerukan pendekatan baru jika putaran pembicaraan Jenewa berikutnya yang dijadwalkan akhir tahun ini tidak menghasilkan kemajuan. Dia telah mengusulkan "proses independen, dipandu oleh negara-negara yang benar-benar serius tentang masalah ini dan bersedia mengembangkan standar yang kuat untuk mengatur sistem senjata ini."
Tetapi banyak yang mewaspadai ide ini. Menteri luar negeri Jerman telah vokal mendukung adanya pelarangan, tetapi Menlu tidak mendukung Kampanye untuk Menghentikan Robot Pembunuh.
"Kami tidak menolaknya secara substansi - kami hanya mengatakan bahwa kami ingin orang lain dimasukkan," kata Heiko Maas kepada DW. "Kekuatan militer yang secara teknologi berada dalam posisi tidak hanya untuk mengembangkan senjata otonom tetapi juga untuk menggunakannya."
Maas pun setuju bahwa perjanjian harus menjadi tujuan akhir. "Sama seperti yang berhasil kami lakukan dengan senjata nuklir selama beberapa dekade, kami harus membuat perjanjian internasional tentang teknologi senjata baru," katanya. "Mereka perlu menjelaskan bahwa kami setuju bahwa beberapa perkembangan yang secara teknis mungkin tidak dapat diterima dan harus dilarang secara global."
Apa yang harus dilakukan selanjutnya?
Tetapi untuk saat ini, di saat belum tercapainya kesepakatan perihal penggunaan senjata otonom, Franke berpendapat hal terbaik yang bisa diharapkan dunia adalah norma seputar bagaimana teknologi digunakan. "Anda setuju, misalnya, untuk menggunakan kemampuan tertentu hanya dengan cara defensif, atau hanya terhadap mesin daripada manusia, atau hanya dalam konteks tertentu."
Ia menambahkan bahwa hal ini akan menjadi tantangan ke depan. "Menyetujui itu dan kemudian menerapkannya jauh lebih sulit daripada beberapa perjanjian pengendalian senjata lama," katanya.
Sementara negara-negara berjuang melewati tantangan ini, pengembangan AI terus berjalan.
"Dunia harus menaruh minat pada fakta bahwa kita sedang bergerak menuju situasi dengan senjata siber atau otonom di mana setiap orang dapat melakukan apa yang mereka inginkan," kata Maas. "Kami tidak menginginkan itu." [Ed: rap/ha]
TERPOPULER
