Qui doit fixer les règles de l’IA ? L’ONU veut peser sur l’avenir numérique

Les inquiétudes se sont encore accentuées ces dernières semaines. Le 8 septembre, un ancien chercheur de l’entreprise d’IA Anthropic a notamment averti que les progrès de cette technologie pourraient, selon lui, représenter une menace existentielle pour l’humanité.

Pour l’ONU, ces risques ne peuvent être traités uniquement à l’échelle nationale. Il faut au contraire réunir les pays autour de principes communs et de règles permettant de favoriser un développement de l’IA qui soit sûr, sécurisé et responsable.

Une coordination « indispensable »

« L’action nationale est essentielle, mais la coordination mondiale est indispensable », a déclaré mercredi le Secrétaire général de l’ONU, António Guterres, lors d’une conférence de presse.

Depuis plusieurs années, l’Organisation cherche ainsi à offrir un espace où les gouvernements peuvent développer une compréhension commune de l’IA et explorer les moyens de coopérer sur des questions allant de la sécurité aux droits humains, en passant par les inégalités d’accès à ces technologies.

Cette démarche a pris une nouvelle dimension avec le Pacte numérique mondial, adopté par les États membres en 2024 dans le cadre du Pacte pour l’avenir.

Le Pacte prévoit notamment deux mécanismes destinés à rapprocher science et décision politique : un Groupe international indépendant d’experts scientifiques sur l’IA, chargé d’évaluer les risques et les opportunités de cette technologie, et un Dialogue mondial sur la gouvernance de l’IA, réunissant gouvernements et autres parties prenantes.

L’Assemblée générale a officiellement établi ces deux instances en août 2025.

Leur logique est simple : les scientifiques établissent ce que l’on sait — et ce que l’on ignore encore — tandis que les gouvernements discutent des réponses à apporter.

Des progrès rapides, des risques nouveaux

Dans son premier rapport préliminaire, publié le 1er juillet, le groupe d’experts souligne les progrès rapides des capacités de l’IA, notamment en matière de raisonnement, de programmation et de recherche scientifique.

Ces avancées ouvrent des perspectives considérables, mais s’accompagnent également de risques : désinformation, discrimination, atteintes à la vie privée, cyberattaques et développement de systèmes toujours plus autonomes, jusqu’au scénario d’une « superintelligence » potentiellement difficile à contrôler.

« Nous avons besoin d’une compréhension commune de la manière de favoriser un développement sûr, sécurisé et responsable de l’IA », a déclaré M. Guterres, appelant également à identifier les moments où des systèmes plus puissants pourraient nécessiter « des garde-fous renforcés ».

De la prudence aux garde-fous

Le débat international évolue désormais : il ne s’agit plus seulement de savoir s’il faut encadrer l’IA, mais quelles protections mettre en place et à quel moment.

Mercredi, M. Guterres a averti que les initiatives volontaires visant à ralentir le développement de l’IA ne suffiraient pas si elles restent isolées, impossibles à vérifier ou appliquées de façon inégale.

Il a appelé à organiser rapidement un sommet réunissant l’ensemble des acteurs concernés — gouvernements, entreprises, scientifiques et société civile — afin de faire progresser une réglementation internationale.

« Si nous estimons que le développement de l’IA doit ralentir lorsque les risques deviennent trop élevés, il nous faut davantage que de bonnes intentions », a-t-il déclaré.

Parmi ses propositions figurent également un engagement international pour la sécurité des enfants face à l’IA et la création d’un Fonds mondial pour l’IA, destiné notamment à aider les pays en développement à renforcer leurs infrastructures et leurs capacités.

L’objectif est de parvenir à une IA « sûre, transparente et responsable », tout en plaçant « la dignité humaine au cœur du dispositif », a insisté le Secrétaire général.

L’ONU comme trait d’union

Les réglementations nationales et régionales se multiplient, mais leurs approches peuvent diverger. Dans ce paysage fragmenté, l’ONU entend jouer un rôle de trait d’union : réunir les gouvernements, mettre les connaissances scientifiques à leur disposition et identifier les domaines dans lesquels une coopération internationale est possible.

L’enjeu sera également au cœur de la prochaine semaine de haut niveau de l’Assemblée générale. Selon des informations parues dans la presse, le Conseil de sécurité pourrait notamment discuter de l’intelligence artificielle.

Au siège de l’ONU, la SDG Media Zone consacrera par ailleurs un événement à l’IA le 21 septembre, tandis qu’un cycle de discussions sur l’IA et le développement humain s’achèvera le 23 septembre. Les deux rendez-vous examineront notamment les effets de l’IA sur la capacité d’agir des êtres humains.

Lors de sa conférence de presse mercredi, M. Guterres a indiqué que l’IA serait « un sujet majeur » de ses échanges avec les dirigeants mondiaux.

Il a comparé la dynamique actuelle à la course aux armements entre les États-Unis et l’Union soviétique pendant la guerre froide, appelant les pays disposant des capacités les plus avancées, notamment les États-Unis et la Chine, à coopérer pour mieux évaluer les risques.

« Les pays disposant des capacités les plus avancées à la pointe de l’IA devraient, à mon sens, mettre en place des mécanismes de contact, échanger des informations et définir des garde-fous communs afin d’éviter une course au moins-disant qui pourrait un jour déboucher sur une catastrophe planétaire majeure », a-t-il déclaré.

À mesure que l’IA gagne en puissance, l’ambition de l’ONU est donc de transformer le dialogue en coopération, et la coopération en garde-fous capables de suivre le rythme de la technologie.