IA : l’ONU alerte sur le risque d’une guerre menée par les machines

Les machines décideront-elles bientôt seules de qui doit vivre ou mourir sur un champ de bataille ? La question n’appartient plus à la science-fiction. « La guerre menée par les machines se rapproche toujours davantage, et la question qui se pose à nous est, tout simplement : allons-nous laisser des machines cibler et tuer des êtres humains ? », a lancé mardi Robin Geiss, directeur de l’Institut des Nations Unies pour la recherche sur le désarmement (UNIDIR), lors d’une conférence de presse à New York.

Le danger, selon lui, ne réside pas seulement dans l’apparition de robots tueurs entièrement autonomes. Il tient à une transformation déjà engagée des opérations militaires, dans laquelle l’IA intervient à presque toutes les étapes, de l’analyse du renseignement à l’identification des cibles, en passant par le pilotage des drones et les cyberattaques.

À mesure que ces technologies progressent, les décisions s’accélèrent et la possibilité d’une intervention humaine se réduit. « Au moment où nous parlons, les cycles de décision se raccourcissent, ils se rapprochent de la vitesse des machines, et la marge laissée au jugement humain se rétrécit, y compris dans le domaine nucléaire », a averti M. Geiss.

Cette accélération pourrait rendre les conflits plus difficiles à maîtriser. Les systèmes d’IA, dont le fonctionnement demeure parfois opaque, introduisent de nouveaux risques d’erreur, de mauvais calcul et d’escalade involontaire. Dans un affrontement entre puissances nucléaires, une décision prise trop rapidement sur la base d’une analyse erronée pourrait avoir des conséquences catastrophiques.

Des entreprises au cœur de la course aux armements

Le problème dépasse pourtant la seule fiabilité des machines. Il touche à la répartition du pouvoir militaire. Un nombre restreint d’États et d’entreprises privées façonnent désormais des technologies susceptibles d’affecter la sécurité de l’ensemble de la planète, sans que les mécanismes traditionnels de maîtrise des armements soient adaptés à cette nouvelle réalité.

Les choix effectués par les industriels, depuis la conception des systèmes jusqu’aux données utilisées pour leur entraînement, déterminent en grande partie leur comportement sur le terrain. Leur fiabilité, leur prévisibilité et leur conformité au droit international dépendent ainsi de décisions prises bien avant leur déploiement par les armées.

Pour tenter de combler cette lacune, l’UNIDIR prépare un cadre de conduite responsable destiné aux entreprises du secteur. Élaboré avec le Haut-Commissariat des Nations Unies aux droits de l’homme, il doit proposer des recommandations pratiques fondées sur le droit international et les principes directeurs de l’ONU relatifs aux entreprises et aux droits de l’homme.

Mais ces recommandations seront volontaires. Autrement dit, l’ONU cherche pour l’heure à orienter les pratiques d’une industrie dont les innovations avancent plus vite que les négociations diplomatiques.

L’institut entend associer à cette démarche les grands groupes de défense, les jeunes entreprises technologiques, les développeurs de logiciels, les sous-traitants et les investisseurs, aux côtés des gouvernements et de la société civile.

Le risque d’une prolifération incontrôlée

Autre source d’inquiétude : l’accès croissant des acteurs non étatiques à des technologies autrefois réservées aux armées les plus avancées. Selon M. Geiss, des recherches montrent déjà que des groupes mal intentionnés utilisent l’IA pour faciliter la planification, l’exécution et la logistique de leurs opérations.

Les organisations terroristes et les réseaux criminels pourraient ainsi conduire des opérations de plus en plus sophistiquées avec des moyens relativement limités. Or, les dispositifs de contrôle des exportations et de non-prolifération, conçus principalement pour surveiller des équipements et des technologies sensibles, peinent à appréhender des capacités numériques largement accessibles.

L’UNIDIR lance donc, avec l’Institut des Nations Unies pour la formation et la recherche (UNITAR) et l’Autriche, une réflexion sur les moyens d’empêcher ces détournements, sans restreindre les usages pacifiques de l’intelligence artificielle.

Une diplomatie encore à la traîne

L’obstacle est aussi politique. Les rivalités entre grandes puissances compliquent l’élaboration de règles communes. Les négociations internationales restent dispersées entre plusieurs enceintes, tandis que les États divergent sur la portée des restrictions à imposer aux systèmes d’armes autonomes.

Pour faciliter le dialogue, l’UNIDIR lancera vendredi un projet de lexique commun. Derrière des termes apparemment consensuels, comme « autonomie », « sûreté » ou « sécurité », les gouvernements placent en effet des réalités parfois très différentes, ce qui entrave les négociations.

L’institut inaugurera également jeudi, avec la Suisse et le Pakistan, un forum réunissant États, industriels, chercheurs et représentants de la société civile. Rattaché à son centre d’excellence créé en juin à Genève, il doit offrir un espace permanent de concertation sur les enjeux militaires de l’IA.

Robin Geiss a néanmoins relevé quelques signes d’ouverture. En septembre, les États-Unis ont proposé à la Chine une ligne de communication consacrée aux incidents liés à l’IA susceptibles de menacer la sécurité nationale. Les appels répétés du Secrétaire général de l’ONU, António Guterres, à un traité juridiquement contraignant sur les armes autonomes trouvent également un écho croissant, selon lui.

Reste un décalage considérable entre la rapidité des innovations militaires et celle de la diplomatie. Les initiatives annoncées cette semaine visent à rapprocher les positions, non à imposer de nouvelles obligations. Pendant que les États cherchent encore à définir les règles, les machines occupent déjà une place grandissante dans les décisions de guerre.