Selon un rapport de la Fondation Kofi Annan et de Democracy Reporting International, l’IA générative (GenAI) s’est immiscée dans les campagnes électorales. Bien que le déluge prédit de désinformation pilotée par l’IA ne se soit pas entièrement matérialisé, le rapport offre des conclusions sans ambiguïté : la GenAI n’est plus une menace hypothétique, mais un outil tangible activement exploré dans la sphère politique, principalement sous la forme d’images synthétiques, souvent déployée par des acteurs politiques populistes pour amplifier des récits préexistants. Le potentiel de manipulation sophistiquée est indéniable, même si son impact à grande échelle lors de ce cycle électoral aura été limité. Ce n’est pas le moment de l’alarmisme, mais de la prospective et de l’adaptation…
Principales conclusions sur la GenAI lors des élections européennes de 2024
Les préoccupations concernant l’utilisation abusive généralisée de l’IA générative étaient fortes mais aucune utilisation significative et généralisée n’a été observée. Cependant, la GenAI facilement identifiable a été le plus fréquemment utilisée en France, les partis politiques d’extrême droite en France, en Allemagne et en Italie s’avérant être les utilisateurs les plus constants, principalement pour la création d’images synthétiques non étiquetées promouvant des thèmes nationalistes, anti-islamiques et conservateurs. Les plateformes ont eu du mal à détecter et à étiqueter le contenu GenAI, malgré les cadres réglementaires tels que le DSA et les engagements volontaires pris par les plateformes. Les études sur la perception du public ont mis en évidence une faible confiance du public dans l’identification du contenu GenAI, soulignant le besoin urgent d’initiatives d’éducation aux médias. Malgré l’impact limité lors de ces élections, le rapport souligne que la GenAI est un facteur croissant dans le paysage de l’information, nécessitant des stratégies proactives pour atténuer les risques potentiels pour les processus démocratiques.
Transparence et détection sont primordiales, mais pas des panacées
Le rapport souligne les difficultés à détecter le contenu GenAI, même pour les plateformes équipées de technologies avancées. Bien que le règlement sur les services numériques de l’UE et l’AI Act soient des étapes essentielles pour établir un cadre réglementaire, se fier uniquement à la détection et à l’étiquetage est insuffisant.
Il faut développer des outils de détection robustes et évolutifs, tout en reconnaissant leurs limites inhérentes. La transparence, en particulier de la part des acteurs politiques, reste une pierre angulaire de l’intégrité démocratique. Le manquement constant à étiqueter le contenu GenAI, comme observé dans le rapport, est une tendance préoccupante qui exige une plus grande responsabilité et le respect de normes à sanctionner.

La culture médiatique est le fondement de la résilience, mais pas seule
Les conclusions du rapport sur la perception du public sont préoccupantes. La faible confiance du public dans l’identification du contenu GenAI, associée à une connaissance limitée de la technologie elle-même, crée une vulnérabilité que les acteurs malveillants peuvent exploiter. Investir dans des initiatives globales de culture médiatique n’est pas simplement une mesure réactive, mais une stratégie proactive pour autonomiser les citoyens.
Ces initiatives doivent aller au-delà de la simple vérification des faits pour englober les compétences en pensée critique, la vérification des sources et une compréhension de l’écosystème de l’information numérique en évolution. Le « pré-bunking« , mis en évidence dans le rapport, offre une voie prometteuse pour renforcer la résilience cognitive face à la désinformation.
La confiance dans les médias et les institutions est la monnaie ultime mais fragile
Le rapport souligne à juste titre que l’impact de la désinformation pilotée par la GenAI est intrinsèquement lié au niveau de confiance dans les institutions démocratiques et les médias. Dans une ère de paysages d’information fragmentés et d’érosion de la confiance, nos communications stratégiques doivent donner la priorité à la reconstruction et au renforcement de ces fondations.
Cela nécessite un engagement envers l’exactitude factuelle, des pratiques de communication transparentes et un dévouement manifeste à servir l’intérêt public. En renforçant la crédibilité des sources d’information établies et en favorisant un dialogue constructif, nous pouvons créer un environnement moins susceptible d’être manipulé, quels que soient les outils technologiques employés.
Facteurs de risque de la GenAI pour faire basculer une élection ?
Quant aux inquiétudes sur la désinformation et la manipulation de l’opinion publique, pour le professeur Thorsten Quandt, la GenAI aura un impact, mais ne sera pas forcément un « bouleversement » majeur. La confiance dans la démocratie, le système politique et le journalisme traditionnel reste déterminante pour la vulnérabilité d’une société. C’est pourquoi les acteurs populistes cherchent à saper la confiance dans les médias. Le « pré-bunking » s’avère plus efficace que le « débunking » pour renforcer la culture médiatique. La généralisation de la GenAI sur les réseaux sociaux pourrait paradoxalement renforcer la confiance envers les sources d’information fiables. La vulnérabilité à la désinformation est étroitement liée à la structure des systèmes médiatiques. La polarisation idéologique et les liens étroits entre les systèmes politiques et médiatiques augmentent également la susceptibilité à la désinformation. Ainsi, l’impact de la GenAI sur les élections dépendra largement du contexte médiatique et politique dans lequel elle est diffusée.
Focus sur des incidents en France, en Allemagne et en Italie
En France, des comptes TikTok se faisant passer pour des proches fictifs de Marine Le Pen et Marion Maréchal ont utilisé la GenAI avec la génération de fakes en « face-swapping » pour promouvoir des sentiments nationalistes, gagnant des centaines de milliers de vues (plus de 30 000 abonnés et jusqu’à 400 000 likes par vidéo) avant d’être supprimés. Amandine Le Pen, Léna Maréchal, des deepfakes qui entrent en campagne en se sont présentant comme des influenceuses nièces de Marine Le Pen, Amandine Le Pen et Léna Maréchal. De plus, le Rassemblement National et Reconquête ont largement utilisé des images GenAI non étiquetées dans leurs campagnes, se concentrant sur des thèmes nationalistes et anti-immigration. Des acteurs étrangers sont également intervenus, avec une vidéo GenAI de faible qualité imitant un journaliste de France24 pour affirmer faussement que le président Macron avait annulé une visite à Kiev en raison d’un complot d’assassinat, diffusée par des médias pro-russes.
En Allemagne, l’Alternative für Deutschland (AfD) a principalement utilisé la GenAI sur Facebook, déployant des images pour alimenter des sentiments anti-migrants et la nostalgie d’une Allemagne ethniquement homogène. Des branches régionales de l’AfD ont partagé des images de jeunes inexistants approuvant le parti et des contenus provocateurs comme une image de « fête allemande du barbecue » partagée pendant le Ramadan, dont aucune n’était étiquetée comme générée par l’IA.

En Italie, Matteo Salvini et son parti, la Lega, ont été identifiés comme des utilisateurs importants de la GenAI, déployant au moins 19 publications dans le cadre de leur campagne « Più Italia, Meno Europa » (Plus d’Italie, Moins d’Europe). Ces images, diffusées sur Facebook, X et Instagram, ont promu des opinions nationalistes et eurosceptiques, utilisant parfois des images controversées pour critiquer la gestation pour autrui et d’autres fois évoquant des sentiments anti-islamiques. Ni la Lega, ni les plateformes n’ont étiqueté ce contenu GenAI.

Perspectives pour une approche collaborative et adaptative
L’avenir de la communication électorale à l’ère de la GenAI exige une approche multidimensionnelle, collaborative et adaptative visant à :
- Renforcer les cadres réglementaires : Mettre en œuvre vigoureusement les DSA et AI Act et évaluer en permanence son efficacité pour relever les défis évolutifs de la GenAI.
- Favoriser l’innovation de détection et de vérification : Soutenir la recherche et le développement de technologies de détection et de vérification de l’IA, tout en reconnaissant le jeu du chat et de la souris en cours avec les acteurs malveillants.
- Investir dans la culture médiatique : Développer et déployer des programmes complets de culture médiatique dans toutes les catégories démographiques, en mettant l’accent sur la pensée critique et la résilience numérique.
- Promouvoir des pratiques éthiques en matière d’IA : Encourager l’auto-régulation et l’adoption de lignes directrices éthiques par les acteurs politiques, les entreprises technologiques et les développeurs d’IA.
- Construire une collaboration intersectorielle : Faciliter le dialogue et la coopération entre les décideurs politiques, les plateformes, les organisations médiatiques, la société civile et le monde universitaire afin d’élaborer des stratégies coordonnées.
Les élections européennes de 2024 peuvent servir de signal que la GenAI n’est pas une menace à éradiquer, mais une technologie transformatrice qui remodèle le paysage de l’information. Notre défi, et notre opportunité, résident dans l’exploitation de son potentiel tout en atténuant ses risques en embrassant un engagement de toutes les parties-prenantes envers les valeurs démocratiques afin de franchir la frontière générative en garantissant que les communications lors des campagnes électorales restent dignes de confiance dans les années à venir.