« Demandez-nous d’abord » : les enfants réclament leur mot à dire sur l’avenir de l’IA

« Les enfants d’aujourd’hui sont la première génération à grandir avec l’intelligence artificielle – mais souvent la dernière à qui on demande son avis », a-t-il déclaré à New York, lors d’une réunion de haut niveau consacrée à la protection des enfants à l’ère de l’IA, en marge du débat général de l’Assemblée générale. La réunion était coprésidée par le président français Emmanuel Macron, le Premier ministre espagnol Pedro Sánchez, le président kenyan William Ruto et le Premier ministre australien Anthony Albanese.

Le bureau du Haut-Commissaire et ses partenaires ont interrogé plus d’un millier d’enfants dans 49 pays. Ils ont notamment exprimé leurs inquiétudes face aux fausses images de personnes réelles, à l’exploitation de leurs données personnelles, à une possible diminution de leur créativité et au risque que l’IA remplace les relations avec leur famille, leurs amis, leurs enseignants ou leurs thérapeutes.

« Surtout, les enfants veulent être entendus avant que les décisions soient prises, et non après », a souligné M. Türk.

Des risques déjà bien réels

Pour Catherine Russell, Directrice générale de l’UNICEF, les enfants n’attendent pas que les adultes aient fini de définir les règles : ils utilisent déjà l’IA, qui peut leur offrir d’importantes possibilités pour apprendre, créer et accéder à des informations et services.

Mais les risques sont également considérables. Selon des recherches de l’UNICEF, au moins 1,2 million d’enfants dans 11 pays ont vu leur image transformée en contenus sexuels truqués par IA en l’espace d’un an.

« Malgré leur nom, il n’y a rien de faux dans les dommages que ces contenus causent aux enfants », a averti Mme Russell.

Des garde-fous dès la conception

Pour Volker Türk, la Convention relative aux droits de l’enfant, le traité de droits humains le plus largement ratifié au monde, doit également s’appliquer à l’intelligence artificielle.

La responsabilité de protéger les droits des enfants incombe notamment aux acteurs qui développent les systèmes d’IA, a-t-il souligné. Elle doit passer par une évaluation des risques au regard des droits humains avant leur mise sur le marché, davantage de transparence et des contrôles indépendants.

Les gouvernements doivent également faire respecter les lois : « Les engagements volontaires ne suffisent pas », a averti le Haut-Commissaire.

La réunion s’est tenue dans le cadre de la Coalition pour les droits et la protection des enfants à l’ère de l’IA, lancée en juillet. Elle réunit gouvernements, agences de l’ONU, entreprises technologiques, société civile et experts.

Dix-sept pays ont jusqu’à présent rejoint cette coalition, qui entend notamment faire participer les enfants à la conception, au déploiement et au contrôle des systèmes d’IA qui influencent leur vie.

Pour Catherine Russell, cette coalition doit notamment placer la sécurité et les droits de l’enfant au cœur de la conception de l’IA, renforcer les données sur ses effets sur les enfants et leur donner une voix dans les décisions qui façonnent leur vie numérique.

« Nous avons tous la responsabilité de placer les enfants, leurs droits et leurs besoins au centre du débat sur l’IA », a-t-elle conclu.