Hukum humaniter internasional mewajibkan negara-negara untuk mempertimbangkan faktor-faktor ini ketika mengevaluasi senjata baru. Sebuah ketentuan lama yang dikenal dengan Klausul Martens menetapkan kewajiban hukum untuk mempertimbangkan implikasi moral dari teknologi yang berkembang. Klausul Martens menyatakan bahwa ketika tidak ada ketentuan perjanjian yang berlaku secara spesifik, perangkat persenjataan seharusnya taat pada “prinsip-prinsip kemanusiaan” dan “perintah hati nurani publik”.
Sebuah laporan baru dari Human Rights Watch dan Klinik Hak Asasi Manusia di Harvard Law School (di mana saya menjadi penulis utama) menunjukkan mengapa senjata otonom bakal gagal memenuhi dua aspek prasyarat yang diwajibkan dalam Klausul Martens. Kami menyimpulkan bahwa satu-satunya solusi yang pantas dalam menghadapi potensi senjata semacam ini adalah dengan melarang pengembangan, produksi, dan penggunaannya.
Lebih dari 70 negara akan menghadiri Sidang Perserikatan Bangsa-Bangsa di Jenewa dari 27 sampai 31 Agustus untuk membahas apa yang disebut sebagai sistem persenjataan otonom yang mematikan. Mereka akan bertemu di bawah naungan Konvensi tentang Senjata Konvensional, salah satu perjanjian paling utama soal perlucutan senjata. Untuk menghindari krisis moralitas dan mengisi kekosongan hukum, negara-negara seyogianya bersepakat untuk memulai negosiasi dan menyusun perjanjian baru yang akan melarang jenis senjata ini pada 2019.
Dengan pesatnya perkembangan teknologi otonom, kelahiran senjata otonom tak lagi sekadar cerita khayalan dalam fiksi ilmiah. Para ahli telah memperingatkan bahwa jenis senjata ini bisa jadi akan siap dalam beberapa tahun -bukan beberapa dekade- ke depan.
Para penentang senjata otonom telah berulang kali menekankan berbagai kekhawatiran soal hukum, akuntabilitas, dan keamanan. Pada saat yang sama, moralitas menjadi tema yang mendominasi diskusi di tingkat internasional sejak 2013. Dalam sebuah pertemuan Dewan Hak Asasi Manusia pada tahun yang sama, ahli PBB tentang pembunuhan tanpa proses hukum memperingatkan bahwa manusia semestinya tidak mendelegasikan keputusan mematikan kepada mesin yang tidak punya “moralitas dan mortalitas.”
Dimasukkannya Klausul Martens ke dalam Konvensi tentang Persenjataan Konvensional juga menekankan pentingnya mempertimbangkan moralitas dalam forum itu.
Senjata otonom itu bakal melanggar prinsip-prinsip kemanusiaan karena tak dapat menghormati nyawa dan martabat manusia. Senjata otonom tidak punya belas kasih yang berfungsi mengendalikan pembunuhan, serta tak punya pertimbangan manusia atau human judgment, yang memungkinkan orang untuk menilai situasi yang tidak bisa diperkirakan dan memutuskan soal cara terbaik dalam melindungi warga sipil. Senjata otonom akan membuat keputusan hidup-dan-mati berdasarkan algoritma yang mengobjektifikasi sasaran manusia tanpa memiliki pemahaman tentang nilai nyawa manusia berdasarkan pengalaman hidup.
Senjata otonom juga bertentangan dengan perintah hati nurani publik yang merefleksikan pemahaman tentang apa yang salah dan benar. Suara-suara tradisional, termasuk yang datang dari lebih dari 160 tokoh pemuka agama dan lebih dari 20 Penerima Nobel Perdamaian, secara terbuka mengutuk senjata otonom. Para ilmuwan, perusahaan teknologi, dan ribuan ahli lain turut menentang hal ini. Juli lalu, sekumpulan peneliti kecerdasan buatan mengeluarkan ikrar, yang hingga kini telah ditandatangani lebih dari 3.000 orang dan 237 organisasi, untuk tidak membantu pengembangan jenis senjata tersebut.
Pemerintah dari sejumlah negara juga menyuarakan kekhawatiran tentang potensi hilangnya kendali atas penggunaan kekuatan ini. Pada April, misalnya, African Group, satu dari lima organisasi regional di Perserikatan Bangsa-Bangsa, menyerukan larangan terhadap senjata otonom dengan menyatakan, “ini tidak manusiawi, keji, menjijikkan, dan bertentangan dengan hati nurani manusia untuk memberi kendali kepada mesin, dan mengizinkan mesin untuk memutuskan siapa yang hidup atau mati.”
Hingga kini, 26 negara telah mendukung seruan untuk melarang senjata yang sepenuhnya otonom. Puluhan lainnya turut menekankan pentingnya mempertahankan kendali manusia atas penggunaan kekuatan itu. Komitmen bersama untuk mempertahankan kendali manusia ini dapat dijadikan landasan untuk memulai negosiasi agar menyusun perjanjian baru tentang senjata yang sepenuhnya otonom.
Negara-negara yang akan memperdebatkan senjata yang sepenuhnya otonom dalam perhelatan Perserikatan Bangsa-Bangsa pekan depan harus menjunjung tinggi prinsip-prinsip dalam Klausul Martens. Negara-negara seharusnya menegaskan kembali kekhawatiran mereka tentang moralitas dan hukum, dan mengambil tindakan sebelum potensi revolusi persenjataan ini menjadi kenyataan.
