Des trucages vidéo à la manipulation en ligne : la menace que fait peser l’IA sur les enfants

Cosmas Zavazava, directeur du Bureau de développement des télécommunications de l’Union internationale des télécommunications (UIT) – l’une des principales agences ayant élaboré la déclaration, qui comprend des orientations et des recommandations – dresse un inventaire impressionnant des différentes manières dont les enfants sont ciblés. Cela va du harcèlement en ligne aux deepfakes, en passant par l’intégration de fonctionnalités nuisibles, le cyberharcèlement et les contenus inappropriés.

« Nous avons constaté que, pendant la pandémie de coronavirus”>COVID-19, de nombreux enfants, en particulier les filles et les jeunes femmes, ont été victimes d’abus en ligne et, dans de nombreux cas, cela a entraîné des préjudices physiques », explique-t-il.

L’IA peut être utilisée par des prédateurs

Des organisations de défense des droits de l’enfant signalent que les prédateurs peuvent utiliser l’IA pour analyser le comportement en ligne, l’état émotionnel et les centres d’intérêt d’un enfant afin d’adapter leur stratégie de manipulation.

L’IA permet également aux agresseurs de générer de fausses images explicites d’enfants réels, donnant ainsi naissance à une nouvelle forme d’extorsion sexuelle.

Le Childlight Global Child Safety Institute, un institut mondial indépendant créé pour recueillir les données les plus fiables disponibles sur l’exploitation et les abus sexuels d’enfants, a constaté dans un rapport de 2025 que le nombre de cas d’abus d’enfants facilités par la technologie aux États-Unis est passé de 4 700 en 2023 à plus de 67 000 en 2024.

L’Australie montre l’exemple.

Les États membres de l’ONU prennent des mesures plus strictes face à l’ampleur et à la gravité du problème.

Fin 2025, l’Australie est devenue le premier pays au monde à interdire les comptes de réseaux sociaux aux enfants de moins de 16 ans, considérant que les risques liés aux contenus qu’ils partagent dépassent largement les avantages potentiels.

Le gouvernement australien s’est appuyé sur un rapport qu’il avait commandé, révélant que près des deux tiers des enfants âgés de 10 à 15 ans avaient été exposés à des contenus haineux, violents ou choquants, et que plus de la moitié avaient subi du cyberharcèlement. La plupart de ces contenus étaient visionnés sur les réseaux sociaux.

Plusieurs autres pays, dont la Malaisie, le Royaume-Uni, la France et le Canada, semblent prêts à suivre l’exemple australien, en préparant des réglementations et des lois instaurant des interdictions ou des restrictions similaires.

L’illettrisme en IA

Début 2026, de nombreux organismes des Nations Unies œuvrant pour la protection de l’enfance ont signé une Déclaration commune sur l’intelligence artificielle et les droits de l’enfant, publiée le 19 janvier. Ce document décrit sans détour les risques et l’incapacité collective de la société à y faire face.

La déclaration met en évidence le manque de connaissances en IA chez les enfants, les enseignants, les parents et les personnes s’occupant d’enfants, ainsi qu’une pénurie de formations techniques pour les décideurs politiques et les gouvernements sur les cadres d’IA, les méthodes de protection des données et les évaluations d’impact sur les droits de l’enfant.

La responsabilité des géants de la tech

Les entreprises technologiques sont également mises en cause : la déclaration indique que la plupart des outils basés sur l’IA qu’elles développent – ​​ainsi que leurs modèles, techniques et systèmes sous-jacents – ne sont actuellement pas conçus en tenant compte des enfants et de leur bien-être.

« Nous sommes très préoccupés et nous souhaitons que le secteur privé s’implique, qu’il participe à l’histoire que nous écrivons avec les autres agences des Nations Unies et les autres acteurs qui pensent que la technologie peut être un catalyseur, mais aussi un facteur destructeur », déclare M. Zavazava.

Ce haut responsable de l’ONU se dit toutefois confiant quant à l’engagement de ces entreprises à rendre leurs outils plus sûrs.

« Au départ, nous avions l’impression qu’elles craignaient de freiner l’innovation, mais notre message est très clair : avec un déploiement responsable de l’IA, il est possible de rester rentable, de développer son activité et de gagner des parts de marché.

Le secteur privé est un partenaire, mais nous devons tirer la sonnette d’alarme lorsque nous constatons un risque de conséquences indésirables.

Nous tenons des réunions régulières pour discuter de leurs responsabilités, et certaines entreprises ont déjà publié des déclarations sur la manière dont elles doivent protéger les populations et les enfants. Il est de notre devoir, ensemble, de lutter contre les méfaits de la technologie ».

Une question relative aux droits de l’enfant

Si les organes des Nations Unies cités dans le document (liste complète ci-dessous) insistent sur la nécessité pour ces entreprises de veiller à ce que leurs produits soient conçus dans le respect des droits de l’enfant, ils appellent également l’ensemble de la société à assumer sa responsabilité quant à leur utilisation.

Ce n’est pas la première fois que des préoccupations sont soulevées du point de vue des droits de l’enfant : en 2021, de nouveaux amendements ont été ajoutés à la Convention relative aux droits de l’enfant – pierre angulaire du droit international des droits de l’enfant et traité relatif aux droits humains le plus ratifié de l’histoire – afin de prendre en compte les dangers de l’ère numérique.

Toutefois, les organes des Nations Unies estiment qu’il est nécessaire de fournir davantage d’orientations pour aider les pays à mieux réglementer et ont élaboré une liste exhaustive de recommandations.

« Les enfants se connectent à l Internet de plus en plus jeunes et doivent être protégés », déclare M. Zavazava. « C’est pourquoi nous avons établi ces orientations pour la protection des enfants en ligne. La première partie s’adresse aux parents, la deuxième aux enseignants, la troisième aux autorités de régulation et la quatrième concerne l’industrie et le secteur privé ».

Recommandations en bref

• Les États devraient renforcer les cadres de gouvernance de l’IA afin de garantir et de protéger les droits de l’enfant.
• Les organisations internationales sont invitées à intégrer les droits de l’enfant dans toutes leurs politiques et stratégies relatives à l’IA.
• Les gouvernements et les entreprises doivent veiller à ce que les systèmes d’IA soient transparents, responsables et conçus pour protéger les enfants.
• Les États sont encouragés à prévenir et à lutter contre les violences et l’exploitation des enfants facilitées ou amplifiées par l’IA.
• Des mesures de protection des données plus strictes et centrées sur l’enfant sont nécessaires pour garantir la confidentialité de la vie privée au sein des systèmes d’IA.
• Les décisions prises sous l’influence de l’IA devraient privilégier l’intérêt supérieur et le développement global de chaque enfant.
• Une IA inclusive et impartiale est essentielle pour garantir que tous les enfants bénéficient équitablement des nouvelles technologies.
• Les points de vue et les expériences des enfants devraient éclairer de manière significative l’élaboration des politiques et la conception des systèmes d’IA.
• Le développement de l’IA devrait soutenir la durabilité environnementale tout en minimisant les dommages écologiques à long terme pour les générations futures.

Organes de l’ONU à l’origine de cette déclaration :

• Union internationale des télécommunications (UIT)
• Comité des droits de l’enfant des Nations Unies (CDE)
• Fonds des Nations Unies pour l’enfance (UNICEF)
• Organisation internationale du Travail (OIT)
• Union interparlementaire (UIP)
• Organisation des Nations Unies pour l’éducation, la science et la culture (UNESCO)
• Institut interrégional de recherche des Nations Unies sur la criminalité et la justice (UNICRI)
• Bureau des affaires de désarmement des Nations Unies (UNODA)
• Haut-Commissariat des Nations Unies aux droits de l’homme
• Représentant spécial du Secrétaire général des Nations Unies pour les enfants et les conflits armés
• Représentant spécial du Secrétaire général des Nations Unies sur la violence contre les enfants
• Rapporteur spécial des Nations Unies sur la vente, l’exploitation sexuelle et les abus sexuels d’enfants
• Safe Online (plateforme d’investissement soutenue par l’UNICEF pour la suppression des contenus pédopornographiques en ligne)