- Les gouvernements devraient d’urgence entamer des négociations sur l’adoption d’un traité d’interdiction et de restriction des systèmes d’armes autonomes, aussi appelés « robots tueurs ».
- Un petit nombre de pays puissants engagés dans la mise au point d’armes autonomes entravent les efforts pour aboutir à un traité lors des pourparlers internationaux.
- Les nombreux pays refusant de déléguer des décisions de vie ou de mort à des machines devraient adopter une nouvelle loi internationale afin de garantir que l’usage de la force se fasse sous contrôle humain et que la responsabilité personnelle puisse être établie.
(Washington, le 2 août 2021) – Les gouvernements devraient rattraper le temps perdu en entamant d’urgence des négociations sur un futur traité visant à maintenir un contrôle humain significatif sur l’usage de la force, a déclaré Human Rights Watch dans un rapport publié aujourd’hui. Les représentants d’une cinquantaine de pays se réuniront le 3 août 2021 à l’Office des Nations Unies à Genève pour leur première rencontre diplomatique officielle sur les systèmes d’armes létaux autonomes, ou « robots tueurs », depuis presque un an.
Le rapport de 17 pages, intitulé « Areas of Alignment: Common Visions for a Killer Robots Treaty » (« Convergence d’opinions : Une vision commune vers un traité d’interdiction des robots tueurs »), publié conjointement par Human Rights Watch et par Harvard Law School International Human Rights Clinic (IHRC — Clinique de défense des droits humains internationaux de la faculté de droit de Harvard), détaille les objections fortes contre la délégation de décisions de vie ou de mort à des machines qui ont été élevées par les gouvernements lors de la dernière réunion officielle sur les robots tueurs de la Convention sur certaines armes classiques (CCAC). À cette réunion, qui a eu lieu en septembre 2020, de nombreux pays ont proposé de négocier un nouveau traité international afin d’interdire et de restreindre les armes autonomes.
« Le droit international doit être amendé pour intégrer de nouvelles règles veillant à ce que l’usage de la force se fasse sous contrôle humain et que la responsabilité personnelle puisse être établie », a déclaré Bonnie Docherty, chercheuse senior auprès de la division Armes de Human Rights Watch et directrice associée de la division Conflit armé et protection des civils à l’IHRC. « Face aux questions fondamentales morales, juridiques et de sécurité soulevées par les systèmes d’armes autonomes, il y a lieu de prendre une mesure forte et urgente, sous forme d’un nouveau traité international. »
Depuis 2013, près de 100 pays ont présenté publiquement leurs points de vue sur les robots tueurs. La plupart a réclamé à maintes reprises un nouveau traité international visant à maintenir un contrôle humain significatif sur l’usage de la force. Parmi eux, 31 pays ont explicitement appelé à l’interdiction des systèmes d’armes létaux autonomes. Pourtant, une poignée de puissances militaires, plus particulièrement les États-Unis, Israël et la Russie, considèrent le moindre pas vers une nouvelle loi internationale comme prématuré. Ces pays investissent des sommes colossales dans les applications militaires de l’intelligence artificielle et développent des systèmes d’armes autonomes aériens, terrestres et maritimes.
Les deux organisations ayant rédigé le rapport ont rappelé que plusieurs gouvernements se sont déclarés en faveur d’une interdiction des systèmes autonomes qui sont légalement ou moralement inacceptables. Il y a un véritable intérêt pour l’interdiction des systèmes d’armes qui, par leur nature même, sélectionnent et attaquent des cibles sans contrôle humain significatif, notamment les systèmes complexes qui reposent sur des algorithmes d’apprentissage automatique et peuvent produire des effets imprévisibles ou inexplicables. D’autres appels ont été lancés pour interdire les systèmes d’armes antipersonnel qui se basent sur des profils dérivés de données biométriques et d’autres données collectées par des capteurs pour identifier, sélectionner et attaquer des individus ou des catégories de personnes.
« Tuer ou blesser des personnes en se fondant sur des données collectées par des capteurs et traitées par des machines serait un affront à la dignité humaine », a ajouté Bonnie Docherty. « Le recours à des algorithmes pour cibler des individus déshumanisera la guerre et portera atteinte à notre humanité. »
De nombreux pays ont proposé d’assortir ces interdictions de réglementations afin de veiller à ce que tous les autres systèmes d’armes autonomes ne soient utilisés que sous contrôle humain significatif, ont ajouté Human Rights Watch et l’IHRC. Le concept de « contrôle humain significatif » est largement compris comme la nécessité que la technologie soit compréhensible et prévisible et que ses utilisations soient limitées dans l’espace et dans le temps.
Dans n rapport publié en octobre 2020, Human Rights Watch et l’IHRC recommandaient des éléments pour un futur traité sur les robots tueurs qui s’alignaient en grande partie sur les propositions faites par les pays ayant participé à la réunion de septembre 2020.
Les décisions de la CCAC sont prises par consensus. Ainsi, il suffit de quelques pays, voire d’un seul, pour bloquer un accord recherché par une majorité. Cependant, un nouveau traité n’a pas à être négocié sous l’égide de la CCAC et on constate que certains dirigeants politiques souhaitent vivement avancer sur la question et aboutir plus rapidement à un résultat durable.
En juillet, le ministre néo-zélandais du Désarmement et du Contrôle des armements, Phil Twyford, a averti que les pourparlers diplomatiques en cours « ne menaient nulle part » et a suggéré que les personnes préoccupées par la perspective de systèmes d’armes autonomes se réunissent pour « mettre au point quelque chose de réellement constructif ». Il a ajouté : « Pour la plupart d’entre nous, l’idée qu’un ordinateur puisse identifier et attaquer une cible de manière autonome est intolérable. »
Un nombre croissant et un large éventail de pays, d’institutions, d’entreprises privées et de particuliers ont souligné à nouveau leur souhait d’obtenir l’interdiction des systèmes d’armes létaux autonomes. En mai, le Comité international de la Croix-Rouge (CICR) a appelé les pays à négocier un traité international pour interdire les systèmes d’armes autonomes qui sont imprévisibles ou sélectionnent des cibles, et à établir des réglementations pour garantir un contrôle humain sur les autres systèmes. Depuis 2018, le Secrétaire général des Nations Unies, António Guterres, a exhorté à plusieurs reprises les États à interdire les systèmes d’armes qui pourraient, par eux-mêmes, cibler et attaquer des êtres humains, les qualifiant de « politiquement inacceptables et moralement répugnants ».
Les 31 pays ayant exigé l’interdiction des robots tueurs sont les suivants : l’Algérie, l’Argentine, l’Autriche, la Bolivie, le Brésil, le Chili, la Chine (sur leur utilisation seulement), la Colombie, le Costa Rica, Cuba, Djibouti, l’Égypte, El Salvador, l’Équateur, le Ghana, le Guatemala, l’Irak, la Jordanie, le Kazakhstan, le Maroc, le Mexique, la Namibie, le Nicaragua, l’Ouganda, le Pakistan, l’État de Palestine, le Panama, le Pérou, le Saint-Siège, le Venezuela et le Zimbabwe.
Cofondée par Human Rights Watch, la campagne « Stopper les robots tueurs » est une coalition de plus de 180 organisations non gouvernementales de 67 pays qui lutte pour l’adoption d’un traité qui maintiendrait un contrôle humain significatif sur l’usage de la force et interdirait les systèmes d’armes fonctionnant sans un tel contrôle.
« Il est crucial et matériellement possible de dresser les limites dès maintenant pour les technologies émergentes problématiques en négociant un nouveau traité international afin de conserver un contrôle humain significatif sur l’usage de la force », a conclu Bonnie Docherty. « Et cela devrait être fait sans plus tarder. »
