Enfants en ligne : l’ONU appelle à agir contre les risques de l’IA et de la désinformation

Cette génération hyperconnectée est pourtant particulièrement exposée aux risques qui menacent l’intégrité de l’information, notamment la désinformation, le harcèlement en ligne, les biais algorithmiques et l’utilisation malveillante de l’intelligence artificielle (IA), alerte l’ONU lundi.

Dans une nouvelle note publiée à l’approche de la Journée internationale de la jeunesse, l’Organisation exhorte les États membres, les entreprises technologiques, les annonceurs, les médias et les chercheurs à faire de la protection et de la participation des enfants et des jeunes une priorité.

Le mois dernier, le Secrétaire général de l’ONU, António Guterres, avait appelé à renforcer la sécurité des enfants face à l’IA, comparant les technologies émergentes à des médicaments non testés et plaidant pour une réglementation plus stricte.

« Aucun enfant ne devrait servir de cobaye pour une IA non réglementée… Lorsqu’un enfant subit un préjudice, la réponse ne doit jamais être “c’est la faute de l’algorithme” », avait déclaré M. Guterres en juillet, lors du premier Dialogue mondial sur la gouvernance de l’IA.

Des préjudices qui ne sont pas accidentels

La note souligne que les préjudices auxquels les jeunes sont confrontés en ligne ne sont pas le fruit du hasard. Ils découlent notamment de modèles économiques fondés sur la monétisation de l’attention et des données personnelles, ainsi que de choix de conception destinés à maximiser l’engagement et les dépenses.

Algorithmes conçus pour maintenir les jeunes utilisateurs en ligne, « schémas obscurs » (dark patterns), coffres à butin (loot boxes) et autres mécanismes favorisant une utilisation compulsive sont autant de pratiques qui peuvent les exposer à des risques particuliers.

Les enfants sont d’autant plus vulnérables que leurs habitudes, leur identité et leurs relations sont encore en pleine formation.

L’IA, poursuit le document, progresse plus rapidement que les efforts visant à encadrer son adoption. Elle amplifie ainsi des risques allant de la diffusion de contenus générés par IA à l’exploitation facilitée par ces technologies.

La note alerte également sur des pratiques publicitaires de plus en plus difficiles à identifier, qui cherchent à influencer les enfants et à accroître leurs dépenses en ligne.

« Dans leur ensemble, ces pratiques banalisent une surveillance commerciale omniprésente et une conception manipulative à une période où les enfants et les jeunes sont les plus influençables », indique le document.

Des acteurs, pas seulement des victimes

Les enfants et les jeunes ne sont toutefois pas seulement des victimes potentielles, souligne l’ONU. Ils sont aussi créateurs, journalistes, défenseurs de causes et organisateurs de mouvements qui contribuent à façonner le débat public et la vie civique.

Mais les mêmes espaces numériques qui permettent à ces mouvements de se développer exposent leurs acteurs — souvent de jeunes femmes, des membres de minorités ou des militants — au harcèlement et à la surveillance en ligne.

Pour l’ONU, les jeunes doivent donc être davantage associés à la recherche et à l’élaboration des politiques destinées à répondre aux menaces pesant sur l’intégrité de l’information.

« Les enfants et les jeunes figurent parmi les personnes les plus touchées par la crise actuelle de l’information, mais aussi parmi celles les plus à même de contribuer à la résoudre », a déclaré Charlotte Scaddan, conseillère principale de l’ONU pour l’intégrité de l’information. « Les protéger et les inclure ne sont pas des objectifs contradictoires. Nous devons faire les deux. »

Une fenêtre d’action qui se referme

La sécurité des enfants en ligne s’est imposée au cœur des débats politiques, notamment autour des fonctionnalités favorisant l’addiction, de la publicité comportementale, de la modération des contenus et de la protection de la vie privée.

Mais face à l’essor rapide de l’IA, l’ONU estime que la fenêtre d’opportunité pour inscrire les droits de l’enfant dans les cadres de gouvernance de cette technologie se réduit rapidement.

La note appelle ainsi les États à renforcer les cadres législatifs, les entreprises technologiques à intégrer la sécurité des enfants dès la conception de leurs produits, les annonceurs à respecter leurs droits, les médias à mieux s’adresser aux jeunes publics et les chercheurs à combler les lacunes existantes, notamment dans les pays du Sud.

L’ONU poursuit parallèlement ses efforts pour contribuer à une meilleure gouvernance de l’IA, notamment à travers le Dialogue mondial sur la gouvernance de l’IA et le Groupe scientifique international indépendant sur l’IA, chargé d’évaluer les opportunités et les risques liés à cette technologie.

« Alors que les technologies numériques et les environnements informationnels continuent d’évoluer, le moment est venu de passer, de toute urgence, des principes à l’action concrète », conclut le document.