Discours de haine : reprendre le contrôle d’un internet livré aux algorithmes

Réunis jeudi au siège des Nations Unies à New York pour marquer la cinquième journée internationale de la lutte contre les discours de haine, diplomates, responsables onusiens, chercheurs et représentants de la société civile ont dressé un constat commun : la haine n’est plus cantonnée aux marges de l’internet. Elle s’installe au cœur de l’espace public numérique, qui promeut l’indignation davantage que la nuance et dont les modèles économiques transforment l’outrage en source de revenus.

Dans un message lu à cette occasion, le Secrétaire général de l’ONU, António Guterres, a résumé cette évolution. « Trop d’algorithmes valorisent l’indignation et la division, encouragent le mensonge pour obtenir des “likes” et incitent à la violence pour générer des vues ». Pour le chef des Nations Unies, l’essor de l’IA et de plateformes numériques insuffisamment régulées accélère encore cette dynamique. 

Or les discours de haine sont selon lui la première étape sur la voie de la déshumanisation, qui mène trop souvent à la violence, aux conflits et aux crimes atroces.

La haine change d’échelle

Le danger ne réside plus seulement dans le contenu des messages, mais dans leur vitesse de propagation et leur capacité à devenir ordinaires.

« La haine est désormais devenue dominante », a averti lors de la réunion Chaloka Beyani, conseiller spécial de l’ONU pour la prévention du génocide. Ce phénomène, qu’il décrit comme « caméléon », change sans cesse de forme et de vecteur. « Les normes se sont effondrées, tout comme les piliers de notre humanité », a-t-il lancé, appelant à une mobilisation de l’ensemble de la société – États, entreprises, universités, médias, chercheurs et citoyens.

Pour le responsable onusien, l’enjeu dépasse largement la modération des contenus. Il touche à la prévention même des atrocités de masse. 

« L’Holocauste, le génocide de 1994 contre les Tutsis au Rwanda et le génocide de 1995 à Srebrenica ont commencé par des mots », a-t-il rappelé.

Melissa Fleming, à la tête du département de la communication de l’ONU, pousse même le raisonnement plus loin. Les auteurs de ces massacres, observe-t-elle, ne disposaient pas des réseaux sociaux. « Je n’ose même pas imaginer… je ne sais même pas si cela aurait pu être pire s’ils avaient eu Internet », a-t-elle spéculé. 

Cette lecture historique irrigue l’ensemble de la stratégie des Nations Unies contre les discours de haine, lancée en 2019 et désormais complétée par des initiatives consacrées à l’intégrité de l’information et à la gouvernance de l’intelligence artificielle.

Les plateformes dans le viseur

Melissa Fleming estime que le problème est en partie lié à la désinformation. « Nous essayons d’inverser la logique en travaillant en faveur de l’intégrité de l’information », a-t-elle expliqué.

Son diagnostic concernant les plateformes de médias sociaux est sévère. Les équipes chargées de la sécurité sur plusieurs grandes plateformes ont été réduites, tandis que les contenus haineux continuent de circuler plus facilement. « Les créateurs les moins scrupuleux gagnent aujourd’hui de l’argent grâce à ces plateformes », a-t-elle dénoncé, soulignant que des annonceurs financent parfois, sans le vouloir, ces publications.

L’objectif, poursuit-elle, n’est pas seulement de supprimer les messages haineux, mais de « réduire l’espace dont ils disposent pour se propager » en renforçant la transparence des plateformes, le soutien aux médias indépendants et la responsabilité des entreprises développant l’intelligence artificielle.

Les femmes en première ligne

Dans un message vidéo, la présidente de l’Assemblée générale, Annalena Baerbock, a choisi d’incarner cette violence par des situations concrètes : une insulte raciste lancée à un enfant, des menaces xénophobes contre une élue, des attaques misogynes contre une journaliste.

« Les discours de haine ne sont pas une abstraction. Ils sont une intimidation destinée à réduire les gens au silence », a-t-elle affirmé.

Elle a insisté sur une réalité souvent documentée, à savoir que les femmes qui occupent des fonctions publiques sont devenues des cibles privilégiées des campagnes de harcèlement en ligne, alimentées désormais par des « hypertrucages » (montages numériques produits grâce à l’IA ou, en anglais, deepfakes) à caractère sexuel. « L’objectif est clair. Il est structurel : faire taire les femmes qui exercent des responsabilités », a dénoncé la présidente de l’Assemblée générale.

Pour autant, lutter contre les discours de haine ne revient pas selon elle à limiter la liberté d’expression. « Combattre les discours de haine et défendre la liberté d’expression ne sont pas des objectifs contradictoires », a-t-elle insisté. « Ils se renforcent mutuellement ».

Traiter les causes plutôt que les seuls symptômes

Même constat chez Miguel Ángel Moratinos, haut représentant de l’Alliance des civilisations, qui appelle à regarder au-delà des messages eux-mêmes.

« Les discours de haine sont souvent le symptôme de dynamiques politiques, sociales et économiques plus profondes », a-t-il estimé. Peur, désinformation, perte de confiance dans les institutions et instrumentalisation politique créent, selon lui, un terrain favorable aux discours d’exclusion. La haine prospère lorsqu’elle fournit des coupables simples à des problèmes complexes.

L’ancien ministre espagnol a annoncé le lancement, lundi prochain, d’un module de formation destiné à l’ensemble des personnels de l’ONU sur la lutte contre l’antisémitisme. Il a également indiqué qu’un plan d’action des Nations Unies contre l’islamophobie était en préparation.

L’IA constitue, selon lui, un défi supplémentaire. « La question centrale n’est pas ce que les machines sont capables de faire, mais de savoir si l’innovation technologique reste ancrée dans les valeurs qui maintiennent nos sociétés unies ».

L’ONU mise sur les partenariats

Le thème retenu cette année – « le pouvoir des partenariats contre les discours de haine » – traduit la conviction de l’ONU qu’aucun acteur ne peut agir seul. La note conceptuelle de la réunion de jeudi souligne ainsi la nécessité d’associer États, entreprises technologiques, médias, chercheurs, responsables religieux et société civile afin de développer des outils concrets, depuis l’éducation aux médias jusqu’au suivi des contenus en ligne.

Cette approche commence à se décliner sur le terrain. Au Kirghizistan, l’UNESCO a profité de cette journée pour soutenir le lancement d’Aikyn Sanarip, première coalition nationale consacrée à la modération des contenus préjudiciables sur internet. L’agence onusienne de défense de la culture rappelle que les discours de haine constituent désormais une menace directe pour la cohésion sociale.

Le défi, en définitive, ne consiste plus seulement à supprimer des publications divisives. Il est de faire en sorte que l’architecture même de l’espace numérique cesse de favoriser les contenus qui divisent. C’est sur ce terrain, bien plus que dans la seule chasse aux messages les plus virulents, que les Nations Unies estiment désormais se jouer la prévention des violences de demain.