Aperçu par le Service de recherche du Parlement européen des principaux risques posés par les médias sociaux à la démocratie et leurs remèdes pour offrir de nouvelles opportunités pour étendre et améliorer la démocratie tout en perturbant le paysage politique, déstabilisant les élites gouvernantes et accélérant le rythme du changement et sans plonger dans le « solutionnisme technologique » – la croyance que des solutions technologiques faciles peuvent résoudre des problèmes sociaux et politiques complexes…

1. L’âge de la surveillance

Principaux risques de la surveillance :

• Surveillance politique : Les médias sociaux offrent des moyens nouveaux et plus efficaces de surveiller les gens, qui peuvent être utilisés par les gouvernements pour cibler les citoyens politiquement actifs et faire taire la dissidence. Même en l’absence de coercition explicite, les citoyens qui soupçonnent qu’ils sont la cible d’une surveillance en ligne peuvent entraver leur expression politique en ligne par crainte de représailles (effets dissuasifs) ;
• Perte de vie privée et d’autonomie : La collecte massive de données par les plateformes de médias sociaux crée des risques pour la vie privée des utilisateurs et peut affecter leur capacité à former et à exprimer des opinions politiques. Le modèle de capture d’attention des médias sociaux, d’une part, et les stratégies visant à exploiter les besoins et les préjugés humains pour accroître l’engagement, d’autre part, minent tous deux l’autonomie individuelle ;
• Désengagement politique : Les médias sociaux peuvent contribuer au désengagement politique croissant des citoyens même s’ils ne sont pas les seuls responsables de ce phénomène. L’indifférence des médias sociaux à la démocratie se heurte de plus en plus au fait que les médias sociaux ont un impact croissant sur la démocratie.

2. L’ère de la personalisation

Principaux risques de la personnalisation :

• Visions du monde rétrécies : En limitant la gamme d’informations à la disposition des citoyens, les modèles de partage d’informations et d’interactions sur les médias sociaux peuvent contribuer au renforcement des frontières de groupe qui empêcheraient un dialogue politique plus large. Malgré les inquiétudes généralisées, les preuves empiriques existantes suggèrent que les effets de personnalisation et de filtrage des médias sociaux sont moins graves et omniprésents qu’on ne le craignait initialement.
• Fragmentation sociale et politique : Les effets négatifs de la personnalisation sont plus présents dans certains contextes politiques et tendent à toucher davantage certains groupes, comme les hyperpartisans. Les effets politiques négatifs de la personnalisation semblent moins graves et généralisés, le risque de fragmentation et de polarisation sociétale demeure. L’évaluation des effets des médias sociaux dépend également d’hypothèses politiques (idéologiques) sur la nature et les conditions de la politique démocratique.

3. Le fléau de la désinformation

Principaux risques de la désinformation :

• Distorsion d’opinions et de préférences : Le plus souvent motivée par des entrepreneurs qui font la promotion d’un contenu très engageant pour tirer profit de la vente d’annonces, la diffusion de fausses informations sur les réseaux sociaux peut saper la capacité des citoyens à former et exprimer des opinions politiques. Malgré les preuves croissantes d’une exposition significative à la désinformation politique en ligne, l’impact réel de la désinformation sur les opinions et les préférences des citoyens est difficile à évaluer. Bien que la portée et l’impact de la désinformation semblent avoir été surestimés, il existe des preuves d’effets négatifs dans des contextes particuliers et sur des groupes spécifiques.
• Distorsion des résultats électoraux : La désinformation peut être utilisée pour persuader ou embrouiller les électeurs, et pour mobiliser ou démobiliser les citoyens pour qu’ils votent, ce qui peut, dans certaines conditions, être un facteur déterminant des résultats des élections. La désinformation généralisée et la perception aiguë de celle-ci par le public (amplifiées par le manque de recherches et des rapports inadéquats) peuvent saper la confiance dans (toutes) les informations en ligne et les institutions démocratiques.
• Désinformation automatisée : Les comptes et algorithmes automatisés contribuent à la propagation de la désinformation sur les réseaux sociaux, mais l’interaction entre les utilisateurs et les algorithmes est indispensable pour que la désinformation soit efficace. Les algorithmes utilisés pour diffuser de fausses informations exploitent les préjugés et les prédispositions humaines, tels que le biais de confirmation humaine, l’inclination à croire des histoires répétées et l’attirance pour un nouveau contenu.

4. Les dérives de la modération

Principaux risques de la modération :

• Censure politique : Les mesures de modération peuvent contribuer à lutter contre la désinformation sur les réseaux sociaux, tout autant que porter atteinte à la liberté d’expression et permettre la censure politique. Toutes mesures de modération sont risquées, la suppression de contenu est particulièrement problématique lorsque le contenu ciblé n’est pas explicitement illégal. Supprimer et étiqueter le contenu peut être contre-productif, car cela peut renforcer les perceptions concernant la censure injuste et injustifiée de points de vue et de groupes particuliers.
• Biais algorithmique : Alors que l’automatisation peut alléger certains fardeaux de la modération humaine, elle peut également amplifier les erreurs et automatiser les biais préexistants. Une pression accrue sur les médias sociaux pour s’attaquer aux contenus problématiques peut pousser les plateformes à s’appuyer encore plus sur des outils automatisés, conduisant ainsi à une censure excessive.
• Pouvoir irresponsable : Malgré les efforts visant à rendre la modération plus transparente et systématique, les mesures de modération sur les réseaux sociaux restent largement floues, arbitraires et appliquées de manière incohérente. La modération des médias sociaux soulève un sérieux problème de responsabilité sur les décisions des plateformes relatives aux contenus problématiques.

5. Les excès du microtargeting

Principaux risques du miocrotargeting :

• Manipulation politique : Par rapport à la publicité politique conventionnelle, le microciblage politique exploite des types de données plus larges pour identifier des micro-groupes de personnes et pour tester et leur proposer des messages personnalisés. Alors que le microciblage peut servir à réengager les citoyens dans la politique, il peut également être utilisé pour manipuler les opinions et les attentes des citoyens. Le microciblage est intrusif car il est basé sur un grand nombre de données et d’informations (y compris des profils psychologiques) sur les personnes, ce qui peut porter atteinte à la vie privée et à l’autonomie. La nature secrète ou cachée du microciblage augmente le risque de manipulation et sape ainsi la capacité des citoyens à se former et à faire des choix politiques.
• Distorsion du processus électoral : Le micro-ciblage politique remet en cause les règles électorales existantes concernant la transparence, les campagnes et le financement politique et peut fausser les processus électoraux et politiques. Les preuves d’une large utilisation du micro-ciblage politique sont de plus en plus nombreuses, l’impact réel du micro-ciblage politique reste incertain. Il est possible que les campagnes de micro-ciblage politique puissent déterminer le résultat des élections, en particulier dans les systèmes électoraux où le vainqueur rafle tout. Même si le microciblage ne peut pas être blâmé pour avoir fait basculer les élections récentes, les risques qu’il crée sont susceptibles d’augmenter, étant donné les intérêts politiques et économiques élevés en jeu et les futures avancées technologiques.

Aucun de ces risques n’est à négliger, mais aucun ne doit être pour autant surestimer. Les solutions simplistes n’existent pas. Les technologiques autant que les usages individuels ainsi les comportements collectifs doivent être considérés.

Plusieurs mesures pourraient viser à :

1. Renforcer la concurrence pour lutter contre les abus de position dominante sur le marché ;
2. Protéger les données et la vie privée pour empêcher le traitement abusif des données ;
3. Revoir les règles de responsabilité du contenu pour clarifier les responsabilités pour le contenu en ligne ;
4. Accroître la transparence et la responsabilité pour le filtrage et la modération du contenu ;
5. Superviser les algorithmes pour augmenter leur transparence et leur fiabilité ;
6. Réglementer la publicité politique ciblée pour empêcher les abus et la manipulation ;
7. Donner aux citoyens les moyens de comprendre les risques numériques et de repousser les attaques.