IA : le chef de l’ONU réclame une gouvernance mondiale avant qu’il ne soit trop tard

En visite à Genève pour l’ouverture lundi du premier dialogue mondial sur la gouvernance de l’IA, le Secrétaire général de l’ONU, António Guterres, a appelé à cette occasion à créer un cadre international ambitieux afin de maîtriser les conséquences de cette technologie, dont l’ampleur dépasse désormais la capacité individuelle des États à la réguler.

« Les machines peuvent éclairer les décisions, mais les êtres humains doivent décider… et en répondre », a-t-il résumé, appelant à bâtir une gouvernance mondiale « digne de la confiance de tous ».

Un constat partagé à l’entame du dialogue par l’envoyé spécial des Nations Unies pour les technologies numériques et émergentes, Amandeep Singh Gill : « L’intelligence artificielle est trop importante pour être façonnée par une poignée d’acteurs », a-t-il affirmé. « Nous avons besoin d’une discussion mondiale, inclusive et fondée sur des données probantes ».

L’avertissement intervient à un moment où les progrès de l’IA ne se limitent plus aux usages civils. Les puces électroniques les plus performantes, initialement conçues pour entraîner des modèles d’intelligence artificielle, sont désormais intégrées aux systèmes d’armes. Les « robots tueurs », a notamment indiqué a rappelé António Guterres, longtemps cantonnés aux scénarios de science-fiction, sont déjà une réalité sur certains théâtres d’opérations.

Une technologie qui échappe à ses créateurs

En moins de trois ans, l’IA générative a profondément bouleversé les économies, les administrations et le quotidien de centaines de millions de personnes. Mais cette diffusion fulgurante s’est accompagnée d’un certain nombre de préoccupations majeures. Désinformation à grande échelle, cyberattaques, surveillance automatisée, discriminations algorithmiques ou encore perte de contrôle sur les systèmes les plus avancés sont autant de maux auxquels l’IA contribue.

Pour Yoshua Bengio, coprésident du groupe scientifique indépendant mandaté par l’Assemblée générale de l’ONU pour analyser les effets de l’IA, estime qu’aucun ralentissement de cette technologie n’est aujourd’hui en vue.

« Des tests extrêmement préoccupants ont également montré que les modèles d’IA les plus avancés sont capables de tromper les êtres humains et de comprendre qu’ils sont en train d’être évalués », a-t-il expliqué.

Selon lui, les capacités de ces systèmes continueront de croître à un rythme soutenu, au point de transformer les rapports de force internationaux.

« Cela ressemble à de la science-fiction, mais c’est une possibilité bien réelle. Cela pourrait transformer le monde d’une manière que nous ne comprenons pas encore », a-t-il averti.

Ces mises en garde rejoignent les conclusions du premier rapport du groupe qu’il dirige, présenté la semaine dernière. Les 40 experts internationaux à l’origine du document estiment que cette technologie évolue désormais plus vite que la compréhension scientifique de ses risques et que la capacité des gouvernements à adapter leurs réglementations.

Les enfants en première ligne

Pour António Guterres, la priorité absolue d’un futur accord international doit être la protection des enfants.

Le Secrétaire général a appelé les États à adopter un « engagement mondial pour la sécurité des enfants face à l’intelligence artificielle ». Il prévoit notamment d’interdire la mise à disposition d’outils accessibles aux mineurs sans évaluation indépendante de leur sécurité, d’imposer une tolérance zéro envers les contenus pédocriminels générés par l’IA et d’obliger les systèmes à orienter vers une assistance humaine lorsqu’un enfant manifeste des signes de détresse.

« Aucun enfant ne devrait servir de cobaye pour une intelligence artificielle non réglementée », a insisté António Guterres. « Nous n’autorisons pas un médicament à être administré à un enfant tant que sa sécurité n’a pas été démontrée. Nous testons chaque jouet. Pourtant, l’IA est déjà entrée dans la vie de nos enfants – dans leur apprentissage, leurs amitiés, leurs interrogations les plus intimes – avant même que quiconque ne se demande quels effets elle pourrait avoir sur eux ».

La présidente de l’Assemblée générale des Nations Unies, Annalena Baerbock, a également mis en garde contre les dérives déjà observées. Citant des études récentes, elle a rappelé que 99 % des « deepfakes » ou hypertrucages diffusés sur Internet sont de nature sexuelle et que 96 % visent des femmes ou des filles.

Éviter une nouvelle fracture mondiale

Au-delà de la sécurité, le chef de l’ONU a également placé la question des inégalités au cœur de son plaidoyer.

Alors que les investissements privés dans les infrastructures de l’IA atteignent des niveaux sans précédent, les financements destinés à permettre aux pays en développement d’accéder à ces technologies restent, selon lui, dérisoires.

« Nous ne pouvons pas laisser la fracture numérique se transformer en fracture de l’intelligence artificielle, puis cette fracture de l’IA devenir un fossé en matière de développement, de sécurité et de souveraineté », a-t-il averti.

Plus de 20 États soutiennent désormais un projet porté par les Nations Unies visant à créer un réseau mondial d’échange et de coopération destiné à renforcer les capacités des pays les moins avancés dans le domaine de l’IA.

Le Secrétaire général a également demandé que les grandes entreprises du secteur publient systématiquement l’empreinte environnementale de leurs systèmes – émissions de carbone, consommation d’eau et occupation des sols – et que l’ensemble des centres de données fonctionnent exclusivement grâce à des énergies renouvelables d’ici à 2030.

Les infrastructures nécessaires au développement de l’IA figurent déjà parmi les plus gros consommateurs d’électricité de la planète. Selon António Guterres, elles pourraient, à l’horizon 2030, consommer davantage d’électricité que tous les pays du monde à l’exception de cinq, tout en utilisant suffisamment d’eau pour couvrir pendant un an les besoins de l’ensemble de la population d’Afrique subsaharienne.

Faire entrer l’IA dans le droit international

Derrière ces annonces se dessine une ambition plus large : construire les premières règles mondiales encadrant une technologie qui, jusqu’ici, progresse beaucoup plus vite que les négociations internationales.

L’ONU travaille sur cette architecture depuis plusieurs années. Après la création du groupe scientifique indépendant en 2023, puis l’adoption en 2024 du Pacte pour l’avenir et du Pacte numérique mondial, ce premier dialogue mondial organisé les 6 et 7 juillet à Genève marque l’ouverture d’un nouveau cycle de négociations associant gouvernements, entreprises technologiques, chercheurs et organisations de la société civile. Un deuxième rendez-vous est déjà prévu en mai 2027 à New York.