Armes autonomes : l’ONU veut empêcher les machines de décider qui meurt

« Il est temps d’agir. » Dans un message vidéo diffusé à l’ouverture de la deuxième session du Groupe d’experts gouvernementaux sur les technologies émergentes dans le domaine des systèmes d’armes autonomes létales, Mme Nakamitsu a souligné l’urgence de préserver la capacité des États à contrôler l’utilisation de ces technologies.

La responsable onusienne a notamment insisté sur la nécessité de veiller à ce que les avancées technologiques ne devancent pas les protections prévues par le droit international humanitaire.

Réunis à Genève jusqu’au 4 septembre sous la présidence de l’ambassadeur néerlandais Robert in den Bosch, les États doivent poursuivre leurs discussions sur de nouvelles pistes pour encadrer le développement et l’utilisation de ces systèmes. Le rapport qui sera présenté lors de la septième Conférence d’examen de la Convention sur certaines armes classiques, en novembre, constituera une étape déterminante.

« Il est temps d’agir »

« Les décisions prises dans les jours à venir auront des répercussions bien au-delà de cette session », a déclaré Mme Nakamitsu.

Si certains systèmes autonomes à vocation défensive sont utilisés depuis plusieurs décennies, notamment pour intercepter des missiles, l’essor de l’intelligence artificielle ouvre de nouvelles possibilités d’autonomie. Il soulève également des questions fondamentales sur le rôle de l’être humain lorsqu’il s’agit de prendre des décisions de vie ou de mort.

L’enjeu des discussions est donc de déterminer si la communauté internationale peut « mettre en place des garde-fous efficaces avant que ces systèmes ne se généralisent davantage ».

Jusqu’à vendredi, les États examineront notamment les moyens de renforcer les règles applicables au développement et à l’utilisation des armes autonomes létales, alors que grandissent les inquiétudes face à la perspective de voir des machines sélectionner et engager des cibles sans intervention humaine.

Les armes autonomes ne sont pas nouvelles. Certains systèmes sont déjà capables d’identifier et d’intercepter automatiquement des menaces, notamment sur des navires de guerre. Mais l’intégration de technologies d’intelligence artificielle pourrait accroître considérablement leur autonomie et leur capacité à opérer dans des environnements complexes.

« Votre mission cette semaine est claire », a insisté Mme Nakamitsu.

Transformer les progrès en règles

Pour l’ONU, les diplomates réunis au Palais des Nations doivent désormais consolider les points de convergence, réduire les divergences persistantes et chercher un consensus sur les contours d’un éventuel instrument juridique ainsi que sur d’autres mesures concernant les systèmes d’armes autonomes létales.

Au cours des trois dernières années, leurs discussions ont permis d’avancer sur plusieurs questions clés : la définition de ces systèmes, l’application du droit international humanitaire, les interdictions et restrictions envisageables, ainsi que les mécanismes permettant d’établir les responsabilités.

L’objectif est désormais de transformer ces avancées en bases concrètes pour les décisions futures des États et de démontrer que le multilatéralisme peut répondre aux nouveaux défis posés par les technologies militaires.

« Ce groupe peut fournir aux États une base solide pour leurs décisions futures, jeter les bases d’actions supplémentaires et démontrer la valeur durable du multilatéralisme face aux nouveaux défis en matière de désarmement », a affirmé Mme Nakamitsu.

Elle a appelé les participants à faire en sorte que « les efforts investis au cours des trois dernières années » débouchent sur un rapport reflétant « à la fois la profondeur des déclarations et l’urgence du défi qui nous attend ».

Pour des règles contraignantes

L’ouverture de cette session intervient une semaine après un appel conjoint de l’ONU et du Comité international de la Croix-Rouge (CICR) en faveur de règles internationales contraignantes sur les armes autonomes.

Alors que des informations non confirmées font état de l’utilisation de drones entièrement autonomes guidés par l’intelligence artificielle sur certains champs de bataille, le Secrétaire général de l’ONU, António Guterres, et la présidente du CICR, Mirjana Spoljaric Egger, ont appelé mardi dernier les États à agir avant qu’il ne soit trop tard.

« Nous sommes désormais dangereusement proches de franchir une ligne rouge morale : le ciblage autonome d’êtres humains par des machines », ont-ils averti.

L’appel porte notamment sur deux catégories de systèmes particulièrement préoccupantes.

La première concerne les armes autonomes imprévisibles, dont l’opérateur ne peut prévoir ou anticiper les conséquences de l’usage de la force en raison de leur conception ou de leur fonctionnement.

La seconde concerne les armes antipersonnel autonomes. Même si les États reconnaissent les enjeux éthiques liés à une diminution du contrôle humain sur l’usage de la force, les systèmes conçus pour cibler délibérément des êtres humains soulèvent des inquiétudes particulières.

Pour l’ONU et le CICR, le principe est simple : les décisions de vie ou de mort doivent rester sous un contrôle humain effectif. L’enjeu des négociations de Genève est désormais d’établir les garde-fous nécessaires avant que les capacités autonomes ne deviennent une réalité militaire à grande échelle.