La propagande russe s’est trouvé un nouvel allié inattendu : l’intelligence artificielle. Une étude récente de Newsguard révèle que les chatbots les plus populaires, comme ChatGPT, diffusent involontairement de fausses informations d’origine russe. Ce phénomène inquiétant soulève des questions cruciales sur la fiabilité des IA et les dangers de la désinformation numérique.
L’opération Portal Kombat : une stratégie de manipulation à grande échelle
Le réseau Pravda.network, surnommé Portal Kombat par les autorités françaises, est au cœur de cette campagne de désinformation massive. Lancé en 2023, ce réseau a produit plus de 3,4 millions d’articles en 2024, propageant des narratifs pro-russes sur divers sujets sensibles liés à l’Ukraine et à ses alliés occidentaux.
La stratégie de Portal Kombat repose sur plusieurs éléments clés :
- La création de centaines de sites web apparemment indépendants
- La traduction et l’adaptation de contenus issus de sources russes officielles
- La diffusion de théories du complot ciblant l’Ukraine et ses soutiens
- L’optimisation des contenus pour les moteurs de recherche et les IA
Cette approche permet de « blanchir » la propagande russe en la rendant moins facilement identifiable comme telle. Bernard Montel, expert en cybersécurité chez Tenable, compare ce processus à « une opération de blanchiment à grande échelle ».
Les chatbots, nouvelles victimes de la désinformation
L’étude de Newsguard a mis en lumière la vulnérabilité des agents conversationnels face à cette avalanche d’informations trompeuses. Environ un tiers des réponses fournies par les IA testées contenaient des éléments de désinformation d’origine russe. Ce constat alarmant soulève des inquiétudes quant à la capacité des chatbots à filtrer efficacement les fausses informations.
Grigorios Tsoumakas, expert en IA à l’Université Aristote de Thessalonique, met en garde : « Pour ceux qui pouvaient croire que les agents conversationnels sont des sources fiables sur des questions d’actualité, j’espère que cet exemple démontrera à quel point il faut faire attention. »
Les défis de la lutte contre la désinformation algorithmique
Face à cette menace croissante, les développeurs d’IA sont confrontés à plusieurs défis majeurs :
| Défi | Description |
|---|---|
| Identification des sources | Repérer et exclure les contenus issus de réseaux de désinformation |
| Équilibre linguistique | Diversifier les sources d’information sans favoriser la propagande |
| Mise à jour des bases de données | Nettoyer régulièrement les données d’entraînement des IA |
| Transparence et contrôle | Définir qui décide de la fiabilité des sources |
Pierre Delcher, expert chez HarfangLab, souligne l’importance d’agir rapidement : « Le recours à ces agents conversationnels va s’étendre de plus en plus, peut-être même dans quelques années pour produire des documents officiels. » Les conséquences à long terme de cette infiltration de la désinformation dans les IA pourraient être considérables.
Vers une prise de conscience collective
Face à ces enjeux, une mobilisation de tous les acteurs du numérique s’impose. Les entreprises développant des IA doivent renforcer leurs mécanismes de vérification et de filtrage des informations. Les utilisateurs, quant à eux, doivent développer un esprit critique face aux réponses fournies par les chatbots.
Yevgeniy Golovchenko, spécialiste des campagnes de désinformation à l’université de Copenhague, insiste sur la nécessité de rester vigilant : « Les internautes ont appris à se méfier des informations circulant sur les réseaux sociaux ou les sites internet traditionnels, ils doivent maintenant adopter la même prudence vis-à-vis des IA. »
L’affaire Portal Kombat atteste que la course entre désinformation et vérité est loin d’être terminée. Dans ce nouveau champ de bataille numérique, la formation des citoyens et le développement d’outils de vérification adaptés aux IA seront cruciaux pour préserver l’intégrité de l’information à l’ère des intelligences artificielles.