（2025年4月28日、ニューヨーク）―自律型兵器システム（AWS）は、戦時と平時の双方で人権を深刻に脅かす危険があると、ヒューマン・ライツ・ウォッチは本日発表した報告書で述べた。各国政府は、「キラーロボット」と呼ばれるこうした兵器システムが惹起する懸念に対処すべく、その危険性に対処する多国間条約交渉を行うべきである。
今回の報告書『人権への脅威：自律型兵器システムとデジタルな意思決定』（全61ページ）は、人間の入力ではなくセンサーのデータに基づき、標的を選択し、武力を行使する自律型兵器が、生命、平和的な集会、プライバシー、補償への権利とともに、人間の尊厳と差別禁止の原則に違反すると指摘している。技術的進歩と軍事への資金投入が、人による有意な制御（MHC：meaningful human control）なしで動作するような自律型兵器システムの急速な開発を促している。
「自律型兵器システムの使用は、戦争に留まらず、法執行活動、国境管理といった状況にも拡大し、国際人権法上の深刻な懸念を引き起こすことになるだろう」と、ヒューマン・ライツ・ウォッチの武器調査担当シニア・アドバイザーで、ハーバード・ロースクールの国際人権クリニックの法学講師であり、本報告書の筆頭著者のボニー・ドチャーティは述べた。「自動化された殺戮が繰り広げられる未来を回避するため、各国政府はあらゆる機会を捉えて、自律型兵器システムに関する国際条約の採択を目指すべきだ」。
ハーバード・ロースクールの国際人権クリニックとの共著となる本報告書は、2025年5月12日～13日にニューヨークで開催される自律型兵器システムに関する国連総会（United Nations General Assembly meeting on autonomous weapons systems）の初会合に先立ち発表された。
様々なレベルでの自律性を持つ武器システムは長年存在してきたが、標的の種類、運用期間、地理的範囲、および運用環境には限界があった。これに該当するのが、例えば、ミサイル防衛システム、軍事ドローン、滞空型弾薬だ。
人による有意な制御なしに運用される自律型武器システムは、いったん起動すると、ソフトウェア（アルゴリズムを使用する場合が多い）のほか、カメラ、レーダー信号、熱形状といったセンサーからの入力、またそれ以外のデータを用いて標的を特定する。標的の特定後は、発射や弾頭の放出について、人間のオペレーターの承認や評価は必要とされない。つまり、人間ではなく機械によって、どこで、いつ、どの程度の武力を用いるかが決定される。
自律型兵器システムは、複雑な状況を解釈する能力も、人間の判断や感情など、生命への権利や平和的集会の権利の下での合法的な有形力行使に不可欠な要素を正確に再現する能力も持たない。
基本的人権の原則に反して、こうした兵器システムは、個人の尊厳を尊重するために必要なやり方で、人命を重視する能力を持たない。さらに、人工知能に依存するシステムは、開発者の偏見と機械学習に固有な透明性の欠如により、差別的なものになる可能性が高い。
自律型兵器システムは、使用時だけでなく、ライフサイクル全体を通じて人権を侵害する。その開発とトレーニングに必要な大量監視は、プライバシーの権利を侵害する。こうしたブラックボックス型のシステムのアカウンタビリティ（法的責任）の欠如は、攻撃で受けた被害の補償に対する権利を侵害する。
「人間は、兵士であれ警察官であれ、しばしば重大な人権侵害を犯す。しかし、そうした人を機械で置き換えることはさらに悪質だ」と、前出のドチャーティ・シニア・アドバイザーは指摘する。「人間には人権を尊重する能力があるが、機械にはその能力や自分の行動の結果を理解する能力がないからだ」。
超法規的処刑に関する国連特別報告者だったクリストフ・ハインス氏は、2013年に国連人権理事会に提出した報告書で、自律型兵器システムへの警鐘を鳴らした最初の国連高官だった。今回の報告書『人権への脅威』は、国連事務総長や数多くの国連機関・専門家が、自律型兵器システムの使用が国際人権法に脅威をもたらすことを強調したこと、また一部は禁止を主張してきた経緯を整理している。
現在、120ヵ国以上が、自律型兵器システムに関する新たな国際条約の採択を求めている。国連のアントニオ・グテーレス事務総長と赤十字国際委員会（ICRC）のミリアナ・スポリアリッチ・エッゲー総裁は、2026年までに自律型兵器システムに関する禁止と規制を定めた法的拘束力のある文書を交渉し、「武力行使に対する人間の制御を維持するために今すぐ行動を起こす」ことを各国に要請している。
条約支持者の大多数は、その性質上有意な人の制御なしに動作する自律型兵器システムや、人を標的とするシステムの禁止、そして、その他のすべての自律型兵器システムが有意な人の制御なしに使用されないことを確保するための規制を呼びかけている。
今回の国連会合は、2024年12月2日に国連総会で採択された「自律型致死兵器システムに関する決議」に基づき開催される。この決議は、賛成166票、反対3票（ベラルーシ、北朝鮮、ロシア）、棄権15票で可決された。
各国は、2014年5月からジュネーブで開催されている通常兵器使用禁止条約（CCW）会議で、自律型致死兵器システム（LAWS）について議論してきたが、実質的な成果は得られていない。CCW で進展が見られない主な理由は、意思決定にコンセンサス方式が用いられているためで、1ヵ国が反対すれば、他の国がすべて賛成しても提案は否決されるからだ。自律型兵器システム開発に投資する少数の軍事大国は、この方式を悪用し、法的拘束力のある文書の交渉を繰り返し阻止してきた。
「自律型兵器システムに関する条約の交渉は、共通の目的、投票に基づく意思決定、明確で野心的な期限、包摂性へのコミットメントを有するフォーラムで行われるべきだ」と、前出のドチャーティ・シニア・アドバイザーでは述べた。
ヒューマン・ライツ・ウォッチは、「ストップ・キラーロボット」キャンペーンの共同創設団体。このキャンペーンは、自律型兵器システムの禁止と規制に関する新たな国際条約の締結を求めている。70 ヵ国の270 以上の非政府組織（NGO）が作るこの連合体は、武力行使に対する有意な人の統制を確保し、デジタルによる非人間化に対抗し、自動化された被害を軽減する法的規範（またはその他の規範）の策定を支持している。
