L’IA doit reposer sur l’inclusion, la responsabilité et des règles, estime Volker Türk

S’exprimant en marge du Sommet sur l’impact de l’IA à New Delhi, M. Türk a déclaré à ONU Info que cette technologie devait être encadrée par un cadre de droits humains garantissant transparence, responsabilité et inclusion.

Cet entretien a été légèrement modifié pour plus de clarté et de concision.

Volker Türk : L’intelligence artificielle est un outil technologique et son développement doit reposer sur une évaluation des risques. Les outils technologiques servent à exercer le pouvoir, à bon escient comme à mauvais escient. Il est donc essentiel de garantir un cadre pour leur développement, leur conception et leur utilisation, et c’est là que les droits humains entrent en jeu.

ONU Info : Quels sont, selon vous, les principaux risques pour les droits humains liés à l’expansion rapide de l’IA ?

Volker Türk : Le problème des inégalités est majeur, et c’est pourquoi je suis ravi que ce sommet sur l’IA se tienne en Inde. Il est crucial que ces outils soient utilisés et développés partout dans le monde.

Se pose ensuite la question des biais et des discriminations. Si les données proviennent d’une seule région du monde, si l’IA est développée uniquement par des hommes, des biais inconscients s’y glisseront. Il est essentiel, selon nous, de prendre en compte les groupes vulnérables et les minorités, car ils sont souvent exclus du développement de l’IA. Il s’agit d’une participation significative et de la vision d’un monde meilleur. Les droits humains offrent cette vision.

ONU Info : L’IA générative progresse plus vite que la réglementation. Quels garde-fous les gouvernements et les entreprises doivent-ils mettre en place de toute urgence ?

Volker Türk : Prenons l’exemple de l’industrie pharmaceutique : les essais peuvent parfois durer longtemps, car il est essentiel d’identifier tous les risques associés à un nouveau produit avant sa commercialisation.

En ce qui concerne les outils d’IA, nous devons exiger des entreprises qu’elles réalisent une évaluation d’impact sur les droits humains lors de leur conception, de leur déploiement et de leur commercialisation.

Nous constatons depuis un certain temps que certaines entreprises disposent de budgets supérieurs à ceux de certains petits pays. Maîtriser la technologie, non seulement dans son pays mais dans le monde entier, confère un pouvoir considérable. Ce pouvoir peut être utilisé à bon escient – ​​pour contribuer à des domaines tels que la santé, l’éducation et le développement durable – mais il peut aussi être utilisé à mauvais escient, notamment pour développer des armes létales automatisées et diffuser de la désinformation, de la haine et une misogynie violente.

ONU Info : Quel type de gouvernance ou de règles encadrant l’IA est nécessaire pour empêcher les systèmes d’IA de renforcer les préjugés et les inégalités ?

Volker Türk : J’ai eu l’occasion de discuter avec des personnes qui produisent, développent et conçoivent ces produits. Ce qui me frappe, c’est que leur connaissance des principes fondamentaux est souvent très superficielle lorsqu’elles entament la phase de développement.

Cela me fait un peu penser au monstre de Frankenstein : on crée quelque chose qu’on ne maîtrise plus. On libère le génie de sa lampe.

Si l’on ne prend pas conscience des dangers et des risques, on peut causer des ravages. On l’a vu au Myanmar, par exemple, où les discours de haine contre les Rohingyas ont explosé sur les réseaux sociaux.

Il est essentiel de prendre en compte le point de vue de chaque segment de la société, en particulier celui des femmes et des jeunes, et de garder à l’esprit que notre cerveau se développe différemment.

Nous ne voulons pas créer de dépendances qui empoisonnent nos esprits et nos âmes. Nous devons aussi être conscients de la façon dont la désinformation, loin de détruire le tissu social, crée des sociétés divisées et polarisées où chacun vit dans sa bulle.

On observe également beaucoup de misogynie. De nombreuses femmes politiques me confient envisager de quitter la politique en raison de ce qu’elles subissent sur les réseaux sociaux.

ONU Info : Dans cinq ans, à quoi ressemblera, selon vous, une IA responsable ?

Volker Türk : J’espère que nous aurons un développement inclusif de l’intelligence artificielle, où le pouvoir ne sera plus concentré entre les mains d’une poignée d’entreprises en Amérique du Nord, et où ce développement s’appuiera sur la richesse et la diversité de chacun dans chaque société.

J’aspire à un développement inclusif, pertinent et participatif, qui nous aide à résoudre les nombreux problèmes et défis du monde actuel. La crise climatique, l’accès aux soins de santé, l’éducation pour tous : l’IA peut être un outil formidable pour nous aider à atteindre ces objectifs.

En revanche, si nous ne proposons pas une vision d’un monde meilleur, nous risquons de nous polariser davantage et de connaître des guerres qui échappent au contrôle humain. Et c’est très dangereux.