L’extrême droite française bombarde les électeurs sur les réseaux sociaux à l’approche du second tour des élections législatives de dimanche avec du contenu généré par l’intelligence artificielle axé sur des questions brûlantes comme l’immigration et l’Union européenne.
Au total, le Rassemblement national, en tête des sondages après avoir réalisé de gros gains au premier tour, et Reconquest, un petit parti nationaliste dirigé par Éric Zemmour, ont collectivement publié 23 images générées par l’IA sur 81 publications sur Facebook, Instagram et X, selon une recherche partagée exclusivement avec L’Observatoire de l’Europe par AI Forensics, une organisation à but non lucratif.
Les publications sur les réseaux sociaux comprennent des images montrant des migrants débarquant sur le sol français, des vidéos attaquant le président français Emmanuel Macron et des photos diabolisant les musulmans.
Malgré les engagements des géants des réseaux sociaux d’étiqueter ce type de contenu conflictuel comme généré par l’IA, Meta et X n’ont signalé aucun de ces messages politiques qui visaient spécifiquement les prochaines élections parlementaires françaises ou les élections au Parlement européen du mois dernier.
Les deux partis d’extrême droite français, y compris le Rassemblement national — qui avait signé un engagement volontaire de ne pas utiliser de contenu généré par l’IA pendant les élections au Parlement européen — ont ouvertement admis avoir utilisé à grande échelle des images et des vidéos créées via l’intelligence artificielle.
« Nous utilisons principalement Midjourney. Certains disent que les images générées ne sont pas authentiques, mais une photo est-elle plus authentique ? », a déclaré Samuel LaFont, responsable de la communication numérique de Reconquest, en faisant référence au logiciel d’IA qui peut facilement créer des tonnes d’images réalistes.
« Quand on compare le prix d’un abonnement Shutterstock (pour les images d’archives) et d’un abonnement Midjourney, Shutterstock devient sans intérêt », estime Aurélien Lopez-Liguori, député du Rassemblement national tout juste réélu à l’Assemblée nationale.
« (Le parti de Macron) utilise également du contenu généré par l’IA », a-t-il ajouté, faisant référence à une vidéo générée par l’IA de la dirigeante d’extrême droite Marine Le Pen créée par un membre du parti politique du président.
En réponse, Meta a déclaré qu’il n’était pas encore possible d’identifier tous les contenus générés par l’IA qui apparaissaient sur ses plateformes. X n’a pas répondu à une demande de commentaire à temps pour la publication.
Depuis qu’OpenAI a lancé ChatGPT fin 2022, les responsables politiques et les décideurs politiques s’inquiètent de la possibilité que l’intelligence artificielle soit utilisée pour modifier les élections, en particulier en 2024, lorsque des milliards de personnes dans le monde se rendront aux urnes. Jusqu’à présent, cependant, il n’y a guère de preuves, voire aucune, que l’IA ait modifié injustement les élections d’un pays.
Cependant, Salvatore Romano, responsable de la recherche chez AI Forensics, a déclaré que le fait qu’aucune des images et vidéos politiques générées par l’IA n’ait été étiquetée avant l’élection de dimanche aurait pu fausser la perception des gens sur des questions comme la migration et l’UE en raison de la qualité réaliste des publications sur les réseaux sociaux.
« Ils utilisent ces images parce que les gens croient qu’elles sont réelles », a-t-il ajouté. « Ajouter une étiquette à une image (pour dire qu’elle a été générée par l’IA) permettrait à l’électeur de mieux comprendre. »
Son organisation à but non lucratif a analysé tout le contenu politique officiel des partis français entre le 1er mai et le 1er juillet, découvrant différentes tactiques d’IA parmi les partis politiques nationalistes du pays.
Le Rassemblement national et la Reconquête, par exemple, ont largement utilisé cette technologie au cours de cette période, notamment en créant des images réalistes de migrants, de musulmans et d’Ursula von der Leyen, la présidente de la Commission européenne. En revanche, Les Patriotes, un parti nationaliste eurosceptique, a rediffusé des images générées par l’IA créées par d’autres.
« Si c’est ainsi que les plateformes se préoccupent aujourd’hui de signaler le contenu de l’IA », a déclaré Romano, « dans deux ans, nous ne serons plus en mesure de savoir ce qui est vrai. »
L’utilisation de l’IA dans les prochaines élections françaises n’est pas la seule tactique numérique à déployer.
Les pages Facebook gérées depuis des pays d’Afrique de l’Ouest ont également ciblé les électeurs français d’extrême droite avant le vote de ce dimanche – une violation directe des politiques internes de Meta exigeant que les publicités politiques ne soient achetées que par les personnes inscrites dans le pays où l’élection aura lieu.
Ces pages Facebook, dont beaucoup ont été créées au printemps à l’approche des élections au Parlement européen, ont utilisé des tactiques secrètes – notamment l’utilisation d’astérisques et d’autres signes de ponctuation pour séparer les mots politiques comme « Macron » et « Israël » – pour contourner les politiques publicitaires de Meta, selon une étude partagée exclusivement avec L’Observatoire de l’Europe par Alliance4Europe, une organisation à but non lucratif.
Les publicités sur les réseaux sociaux ont été payées en dollars américains ou canadiens et ciblaient des types spécifiques d’électeurs français – principalement ceux qui soutenaient les partis locaux d’extrême droite – semant le doute sur le soutien de Macron ou de la France à la guerre en Ukraine. On ne sait pas exactement combien d’argent a été dépensé au cours de cette campagne qui a duré des mois.
Ces acteurs « utilisent des techniques pour contourner le contenu automatisé (modération) pour atteindre environ 1,9 million d’utilisateurs français sur Meta avec des publicités politiques non étiquetées attaquant Macron et l’Ukraine », a déclaré Saman Nazari, l’un des chercheurs d’Alliance4Europe. « Ce qui rend cette affaire problématique, c’est que nous avons un réseau de pages qui cachent qui se cache derrière elles, opérées depuis l’étranger, et qui se font passer pour différents mouvements sociaux français. »
Après que L’Observatoire de l’Europe a contacté Meta au sujet de la publicité politique, le géant des médias sociaux a supprimé les pages Facebook pour violation de ses politiques de « comportement inauthentique ».
Des tactiques similaires ont été utilisées par des pages Facebook associées à des entités russes, notamment le groupe Wagner, une force mercenaire active dans toute l’Afrique de l’Ouest. Nazari a toutefois ajouté qu’il n’existait aucune preuve permettant de relier ce récent ciblage d’électeurs français, majoritairement d’extrême droite, aux activités d’individus liés au Kremlin.
