« Nous avons perdu la bataille sur les réseaux sociaux parce que nous avions un temps de retard, et nous sommes en train de perdre la bataille sur l’intelligence artificielle pour la même raison : nous avons encore un temps de retard », a alerté Dre Najat Maalla M’jid, représentante spéciale du Secrétaire général de l’ONU chargée de la question de la violence à l’encontre des enfants.

Elle intervenait lors d’une réunion de haut niveau à l’Assemblée générale des Nations Unies consacrée aux risques et aux possibilités que présente l’IA dans la lutte contre les violences faites aux enfants.

Au cours de la seule année écoulée, les images d’au moins 1,2 million d’enfants dans 11 pays ont été détournées pour produire des hypertrucages (« deepfakes ») à caractère sexuellement explicite, a noté la Vice-Secrétaire générale de l’ONU, Amina Mohammed, citant une récente étude du Fonds des Nations Unies pour l’enfance (UNICEF).

Dre M’jid a également fait état d’une hausse spectaculaire des signalements de contenus pédosexuels générés par l’IA. Selon les données du Centre national américain pour les enfants disparus et exploités (NCMEC), leur nombre a bondi de 1.325 % entre 2023 et 2024. Elle a toutefois souligné que la majorité des infractions commises contre des enfants à l’aide de l’IA ne sont ni signalées ni poursuivies en justice.

Quand la technologie devient une arme

Les agents conversationnels (chatbots) peuvent être utilisés pour gagner progressivement la confiance des enfants, recueillir des informations personnelles et les pousser à partager des images à caractère sexuel, a expliqué la représentante spéciale. Des hypertrucages créés à l’aide d’applications permettant de déshabiller numériquement des personnes servent également à humilier, menacer et exploiter des mineurs.

Le profilage et les outils de ciblage prédictif offrent par ailleurs aux prédateurs, aux trafiquants et aux réseaux criminels de nouvelles possibilités pour repérer les enfants les plus vulnérables.

John Trenary, qui enquête depuis plus de 25 ans sur l’exploitation des enfants, a rappelé que les prédateurs ont toujours cherché à « transformer la technologie en arme pour exploiter nos enfants ».

Mais l’intelligence artificielle change considérablement l’échelle du phénomène. En permettant d’automatiser les abus et de générer des contenus entièrement synthétiques, elle rend ce détournement technologique « auto-entretenu », a-t-il averti.

Dès que les enquêteurs parviennent à identifier une méthode employée par les prédateurs, « une autre apparaît aussitôt ».

Kay Chau, de la Tech Coalition, une alliance à but non lucratif engagée dans la protection de l’enfance, a également mis en garde contre l’utilisation des chatbots pour faciliter des jeux de rôle abusifs ou élaborer des scénarios destinés à manipuler les mineurs, une pratique connue sous le nom de « grooming ».

L’essor de l’IA autonome, dont les systèmes peuvent exécuter des tâches sans intervention humaine constante, ouvre également de nouveaux champs de risques.

ONU Info
Kate Chao de la Tech Coalition (à gauche) et Mariana Rozo-Paz , chercheuse à la Data Sphere Initiative (à droite), lors d’un l’événement sur la violence contre les enfants.

« Lucia est notre agent »

L’influence de ces outils sur les enfants apparaît aussi dans leur vie quotidienne.

Mariana Rozo-Paz, de la Datasphere Initiative, a raconté avoir participé l’an dernier à un programme d’éducation au numérique destiné à des adolescentes vivant en milieu rural en Colombie.

Invitées à représenter Internet sous la forme d’un dessin, les jeunes filles ont toutes dessiné une personne appelée Lucia : leur agent d’intelligence artificielle.

« Nous parlons à Lucia tous les jours », lui ont-elles expliqué. « Quand les adultes ne veulent pas répondre à certaines questions, nous interrogeons Lucia. Elle est toujours là pour nous. Elle propose un mode “intime” ou un mode “meilleure amie” ».

Cette relation de confiance avec des systèmes d’IA soulève des questions majeures sur la sécurité des enfants, leur exposition à des contenus inappropriés et les risques de manipulation.

« Nous n’accepterions jamais qu’un jouet pour enfants soit mis sur le marché sans contrôles de sécurité rigoureux ; or, les systèmes d’IA atteignent les enfants sans faire l’objet d’une telle vigilance », a souligné Amina Mohammed. « Nous ne pouvons pas laisser la sécurité des enfants dépendre du bon vouloir des entreprises technologiques. »

En juillet, le Secrétaire général de l’ONU, António Guterres, a lancé l’Engagement pour la sécurité des enfants face à l’IA (AI Child Safety Pledge). Cette initiative vise notamment à garantir, au moyen d’une certification, que les systèmes d’intelligence artificielle sont sûrs avant leur mise à disposition des enfants, ainsi qu’à instaurer une tolérance zéro envers les contenus pédosexuels générés par l’IA.

Pour Dre M’jid, les engagements volontaires des entreprises technologiques ne suffisent plus. Elle plaide pour des normes internationales intégrant la protection de l’enfance au cœur de la gouvernance de l’IA, avec des obligations contraignantes en matière de sécurité et de protection de la vie privée dès la conception des systèmes (« privacy by design »).

La Vice-Secrétaire générale a toutefois rappelé que l’IA pouvait aussi devenir un outil de protection : elle peut contribuer à détecter les contenus pédosexuels, à identifier les victimes et à repérer les premiers signes de manipulation en ligne.

Une étude menée par la World Childhood Foundation donne la mesure du décalage entre les possibilités offertes par la technologie et la capacité des adultes à en maîtriser les risques. En Suède, un jeune participant a résumé ce sentiment en quelques mots : « La technologie est vraiment géniale. Mais on voit bien que ceux qui sont censés la contrôler sont dépassés ».

« Les enfants ne devraient jamais avoir à nous dire que les adultes responsables de leur sécurité sont dépassés », a réagi Paula Guillet de Monthoux, secrétaire générale de la fondation. « Il est de notre responsabilité de prouver que nous sommes à la hauteur ».

Source of original article: United Nations (news.un.org). Photo credit: UN. The content of this article does not necessarily reflect the views or opinion of Global Diaspora News (www.globaldiasporanews.com).

To submit your press release: (https://www.globaldiasporanews.com/pr).

To advertise on Global Diaspora News: (www.globaldiasporanews.com/ads).

Sign up to Global Diaspora News newsletter (https://www.globaldiasporanews.com/newsletter/) to start receiving updates and opportunities directly in your email inbox for free.