IA : la course pour rattraper une technologie sans garde-fous

Panne des services essentiels, infrastructures critiques déstabilisées, institutions démocratiques fragilisées : dans une lettre adressée aux États et aux développeurs d’IA, le Haut-Commissaire des Nations Unies aux droits de l’homme, Volker Türk, a dressé un inventaire des dangers liés aux systèmes les plus avancés.

Il s’inquiète notamment de l’émergence d’une intelligence artificielle dite « agentique » – capable d’agir de manière autonome pour accomplir des tâches et atteindre des objectifs. « Des défaillances impliquant des systèmes d’IA agentique pourraient paralyser des services essentiels, interrompre les communications, déstabiliser des infrastructures critiques et porter atteinte au cœur même des institutions démocratiques », a-t-il averti.

Le scénario décrit par le haut responsable touche jusqu’aux besoins les plus élémentaires. « Des populations entières pourraient se retrouver privées d’eau potable, de chauffage et de services financiers », a-t-il poursuivi. « . L’IA agentique accélère déjà le rythme et l’ampleur des conflits armés, tout en érodant les garde-fous qui nous séparent du lancement d’armes de destruction massive ».

Pour Volker Türk, le développement des modèles les plus puissants marque ainsi un changement d’échelle. « Nous sommes à l’aube d’un changement irréversible, qui nous affectera non seulement nous-mêmes, mais aussi les générations futures », a-t-il déclaré, estimant que « tous les droits humains sont menacés », y compris le droit à la vie.

Son avertissement intervient alors que s’ouvre lundi à Riyad, en Arabie saoudite, le quatrième forum mondial de l’UNESCO sur l’éthique de l’IA. Jusqu’au 17 septembre, gouvernements, chercheurs, entreprises, organisations internationales et représentants de la société civile doivent précisément tenter de réduire l’écart entre les principes éthiques déjà énoncés et leur traduction en règles concrètes.

Des risques qui ne sont plus théoriques

L’avertissement ne porte toutefois pas seulement sur ce que l’IA pourrait provoquer demain. Une partie des dommages qu’il décrit est déjà observable. « Les préjudices liés à l’IA ne sont pas hypothétiques : ils se produisent déjà, au grand jour », a souligné le Haut-Commissaire.

Automatisation de services essentiels au détriment des populations marginalisées, exploitation massive de données personnelles, technologies de surveillance, campagnes de désinformation. Le bureau des droits de l’homme de l’ONU voit dans ces usages autant de menaces pour les libertés individuelles, la cohésion sociale et les institutions démocratiques, mises à rude épreuve « de manière insidieuse et inédite ».

L’alerte de l’ONU intervient surtout au moment où les interrogations gagnent les entreprises qui repoussent elles-mêmes les limites de cette technologie. Samedi, Dario Amodei, le patron d’Anthropic, s’est prononcé en faveur d’un ralentissement des progrès de l’IA afin de laisser davantage de temps aux sociétés pour comprendre et maîtriser les risques associés à ses nouvelles capacités, qui sans davantage de garde-fous, pourraient conduire à l’extinction de l’humanité. Dans ces conditions, l’IA représenterait un risque comparable, voire plus important que celui associé à l’arme nucléaire.

Pour M. Türk, ces incertitudes rendent plus urgente la mise en place de règles. Il exhorte « les États et les entreprises à se mobiliser de toute urgence dans le cadre d’instances multilatérales pour définir une voie d’action visant à encadrer les modèles d’IA de pointe ».

Les entreprises qui développent ces systèmes ont, selon lui, à la fois les moyens et la responsabilité d’agir. Mais elles ne sauraient fixer seules les limites de technologies dont les conséquences dépassent largement leurs utilisateurs ou leurs actionnaires. Les gouvernements doivent leur imposer des obligations et les tenir responsables de leurs manquements.

Qui fixe les limites ?

Le Haut-Commissaire réclame notamment une vérification indépendante des capacités des agents d’IA, menée par des experts disposant des compétences techniques nécessaires et d’un accès aux modèles, à leur documentation et à leurs environnements de test. Il demande également aux entreprises d’évaluer en permanence les conséquences de leurs produits sur les droits humains.

Surtout, cette régulation ne peut, à ses yeux, s’arrêter aux frontières nationales. Aucun pays ne peut encadrer seul une technologie développée et déployée à l’échelle mondiale ; aucune entreprise ne devrait davantage pouvoir déterminer seule le niveau de risque que le reste de la société devra accepter.

« Personne ne devrait être contraint de renoncer à ses droits humains au nom d’un prétendu progrès technologique », a insisté M. Türk.

Derrière la question technique de la sécurité des modèles apparaît ainsi une question plus politique : qui décidera de ce qu’une intelligence artificielle peut faire, des risques jugés acceptables et du moment où une capacité devient trop dangereuse pour être déployée ?

Le temps presse d’autant plus, selon le Haut-Commissaire, que les choix effectués aujourd’hui pourraient être difficiles à défaire. Et leurs conséquences seront supportées par ceux qui n’ont guère participé à leur élaboration.

« La génération qui entre aujourd’hui dans l’âge adulte héritera des conséquences des décisions prises sur cette question sans avoir eu son mot à dire », a-t-il averti, appelant la communauté internationale à « veiller à ce que ces décisions soient prises en toute transparence, dans le respect de ses droits et avec l’humilité qu’exige l’ampleur de cette entreprise ».