Il est difficile d’évaluer l’impact des images générées par l’intelligence artificielle (IA) utilisées par l’extrême droite sur le premier tour des élections législatives françaises et sur celles au niveau européen, selon une analyse.
Les partis d’extrême droite européens ont utilisé des images générées par l’intelligence artificielle (IA) pour soutenir leurs messages politiques, selon deux nouveaux rapports, mais il est difficile d’évaluer l’impact de ces images sur les récentes élections françaises et européennes.
L’organisation à but non lucratif AI Forensics a parcouru les pages des médias sociaux de 31 partis politiques français pour déterminer s’ils pouvaient détecter du contenu d’IA générative (genAI) du 1er mai au 28 juin, pendant les élections européennes et le premier tour de la campagne législative française.
Ils ont ensuite soumis ces images à des moteurs de recherche liés à l’IA pour vérifier qu’un outil d’IA les a créées.
Au total, l’équipe a découvert 51 cas d’images d’IA génératives utilisées par les partis français, le Rassemblement national (RN) d’extrême droite, Reconquête et Les Patriotes étant les plus impliqués, mais les chercheurs ont déclaré qu’il s’agissait d’une estimation prudente.
« C’est le premier cycle électoral où l’IA (générative) est présente, mais nous sommes sûrs que dans les années à venir, elle sera de plus en plus utilisée », a déclaré Salvatore Romano, chercheur chez AI Forensics, à L’Observatoire de l’Europe Next.
« Si nous ne sommes pas capables de gérer cela maintenant, alors que l’échelle est si petite… ce sera plus difficile à gérer lorsque la technologie sera indiscernable du contenu réel », a-t-il ajouté.
Le RN d’extrême droite est arrivé en tête du premier tour des élections législatives françaises dimanche dernier avec 33% des voix et des élections européennes de juin, où il a recueilli 31,5% des voix.
Où le contenu de l’IA est apparu
La plupart des images de campagne générées par l’IA utilisées par les partis français « véhiculent des messages d’anti-immigration, de manque de sécurité en France, de manque de liberté d’expression, d’un système judiciaire défaillant et de faibles protections agricoles », révèle le rapport d’AI Forensics.
« (Les images) sont utilisées comme une technique de peur pour dire que la France n’est pas en sécurité dans l’UE, et cela cible surtout les personnes vulnérables de notre société », a ajouté Miazia Schüler, chercheuse chez AI Forensics.
Ces images paraissaient souvent « hyperréalistes », et l’utilisateur moyen pouvait clairement voir qu’elles étaient rendues par l’IA, a déclaré Schüler.
D’autres étaient subtiles, comme des imitations de caricatures politiques trouvées dans les journaux.
Certains partis, comme le parti d’extrême droite Reconquête, ont également utilisé l’IA générative pour créer des images du président français Emmanuel Macron et de la présidente de la Commission européenne Ursula Von Der Leyen.
Pendant la campagne européenne, le RN a créé un site Web intitulé « L’Europe sans eux » à l’approche des élections, qui remettait également en cause les positions de leadership de Macron et de Von Der Leyen, selon une étude du Digital Forensic Research Lab (DFRLabs) de l’Atlantic Council.
Le site Web, toujours en ligne, contient au moins trois images générées par l’IA : montrant des pétitions contre « le mépris de l’UE envers les peuples, l’immigration massive et la promotion du hijab », selon leur rapport.
« Juste la pointe de l’iceberg »
Selon Valentin Chatelet, chercheur à l’Atlantic Council, il est « difficile » de savoir quel impact ce type de contenu généré par l’IA a eu sur le succès du RN aux élections européennes et françaises.
« Je pense que cela a un impact positif sur les supports que le parti utilise pour transmettre une idée particulière, comme la position particulière de Bardella sur une question », a déclaré Chatelet.
« Les images (générées par l’IA) sont également utilisées pour choquer les gens… jusqu’à ce qu’elles deviennent courantes », a-t-il ajouté.
L’Observatoire de l’Europe Next a contacté le Rassemblement national (RN), le groupe Identité et démocratie, les partis politiques Patriotes et Reconquête mais n’a pas reçu de réponse.
Selon la chaîne de télévision BFMTV, les candidats du RN ont suivi une formation à l’IA, notamment sur l’utilisation de ChatGPT, depuis janvier 2024. Dans leur livret de formation, ils donnent des exemples de la manière dont l’IA peut aider les candidats politiques, comme la création d’affiches de campagne et la recherche d’arguments pour les débats, a rapporté la chaîne.
Ni l’étude d’AI Forensics ni le DFRLabs de l’Atlantic Council n’ont examiné les publications personnelles des candidats ni le contenu créé par les bases de fans des partis.
Romano estime que leur étude n’est « que la pointe de l’iceberg » de la quantité de contenu électoral non étiqueté généré par l’IA qui circule sur les plateformes de médias sociaux.
« Négligence critique » des entreprises technologiques dans l’utilisation de l’IA
Le rapport d’AI Forensics a révélé qu’aucune des images générées par l’IA n’était étiquetée comme telle.
« Nos conclusions révèlent une négligence critique de la part des deux côtés des partis et plateformes politiques pour respecter les engagements d’étiquetage des images générées par l’IA dans leurs campagnes politiques, soulignant le besoin urgent de transparence », peut-on lire dans le rapport.
Les grandes entreprises technologiques comme Google, OpenAI, Meta et TikTok ont signé en février un accord sur les technologies ouvertes qui « définit les attentes quant à la manière dont les signataires géreront… le contenu électoral trompeur de l’IA » sur leurs plateformes avant les élections européennes.
Le premier engagement de cet accord est que les plateformes « identifieront les images réalistes générées par l’IA et/ou certifieront l’authenticité du contenu et son origine », peut-on lire dans une copie de l’accord.
Ils ont également promis de revoir leurs modèles pour « comprendre les risques qu’ils peuvent présenter » en matière de contenu d’IA trompeur.
Certains partis politiques ont signé leur propre version de cet accord avec la Commission européenne, qui a déclaré qu’ils s’engageaient à « prévenir la tromperie délibérée du public, y compris par l’utilisation de l’intelligence artificielle », peut-on lire dans une copie de cet accord.
Le groupe Identité et démocratie (ID) du Parlement européen a signé ce code de conduite, dont le RN est membre. Les autres partis nationaux français ne l’ont pas fait.
Romano a déclaré qu’AI Forensics enverrait son rapport à la Commission européenne dans l’espoir qu’il y aura une sorte de répercussion contre les parties qui enfreignent ces codes de conduite.
