Qui répond des dommages causés par l’IA ? L’ONU ouvre le débat sur la responsabilité

« Dans 11 pays du Sud global, jusqu’à un enfant par classe a signalé que l’IA avait été utilisée pour créer des deepfakes à caractère sexuel le représentant. Les signalements de contenus pédopornographiques générés par l’IA auprès de la ligne d’alerte américaine CyberTip, NCMEC, augmentent de façon exponentielle », a averti Sonia Livingstone, membre du Groupe scientifique international indépendant sur l’IA.

S’appuyant sur les premières conclusions du rapport préliminaire de ce groupe, mandaté par l’Assemblée générale des Nations Unies, elle a estimé que les preuves de violations liées à l’IA, touchant tant les individus que les groupes les plus vulnérables, étaient désormais « bien plus probantes » que les bénéfices démontrés de cette technologie.

Selon elle, l’IA est utilisée pour « créer et amplifier la persuasion et la tromperie », diffuser la désinformation et exploiter les données personnelles à grande échelle.

Des garde-fous dès la conception

Pour les Nations Unies, ces risques montrent qu’aucun pays ne peut être exclu des discussions sur la gouvernance mondiale de l’IA. Le Dialogue mondial de Genève, organisé en marge du sommet « AI for Good » de l’Union internationale des télécommunications (UIT), sera suivi d’un second rendez-vous en mai prochain à New York.

Le Haut-Commissaire des Nations Unies aux droits de l’homme, Volker Türk, a plaidé pour que les principes d’égalité, de responsabilité et de supervision humaine soient intégrés dès la conception des systèmes d’IA.

« Nous ne considérons pas les normes de sécurité applicables aux médicaments, aux voitures ou aux avions comme des obstacles au progrès. Au contraire, c’est grâce à elles que les gens font confiance à ces technologies », a-t-il rappelé.

Une empreinte environnementale et sociale préoccupante

Les discussions ont également porté sur le coût environnemental de l’IA. Les immenses centres de données qui alimentent les modèles d’intelligence artificielle consomment d’importantes quantités d’électricité et d’eau, tout en concentrant leurs effets dans certaines régions.

« Toute personne disposant d’un téléphone portable ou d’un ordinateur peut utiliser le cloud et bénéficier de l’IA. Mais les impacts négatifs sont, eux, très localisés », a expliqué Sasha Luccioni, cofondatrice du Sustainable AI Group.

Selon elle, certaines des communautés les plus marginalisées subissent déjà les conséquences de cette course à la puissance informatique, notamment en matière de consommation d’eau, d’énergie, d’émissions de gaz à effet de serre et de santé publique.

Pour Jhalak Kakkar, experte en politiques numériques à l’Université nationale de droit de Delhi, une autre question demeure : comment éviter que les bénéfices économiques de l’IA soient captés loin des communautés qui en supportent les coûts ?

Des algorithmes encore opaques

Les intervenants ont également souligné que les autorités peinent à suivre le rythme du développement de l’IA.

« Nous devons être capables d’ouvrir les “boîtes noires” de l’IA », a insisté la scientifique marocaine Amal El Fallah Seghrouchni, rappelant que les grands modèles de langage reposent sur des centaines de milliards de paramètres dont le fonctionnement demeure difficile à expliquer, y compris pour les spécialistes.

Les femmes particulièrement visées

Les experts ont enfin mis en lumière les conséquences de l’IA sur les violences en ligne. Selon une enquête commandée par ONU Femmes, une défenseuse des droits humains, journaliste ou militante sur quatre déclare avoir subi des violences facilitées par l’IA, tandis que 6 % disent avoir été victimes de deepfakes ou d’images manipulées.

« Une grande partie de ces faits ne sont ni documentés, ni remarqués, ni signalés », a regretté la Directrice exécutive d’ONU Femmes, Sima Bahous, soulignant que les femmes ne représentent que 30 % des effectifs mondiaux du secteur technologique, tandis que 88 % des chercheurs de premier plan en IA sont des hommes.

Pour les Nations Unies, le Dialogue mondial doit permettre de bâtir une gouvernance de l’IA qui reflète les priorités de tous les pays et garantisse que les bénéfices de cette technologie profitent à l’ensemble de l’humanité.