TikTok héberge des centaines de comptes pro-nazis qui utilisent l’application pour promouvoir leurs idéologies, selon une nouvelle étude.
TikTok héberge des centaines de comptes pro-nazis qui utilisent l’application pour promouvoir leurs idéologies, selon une nouvelle étude.
Des chercheurs de l’Institute for Strategic Dialogue (ISD), un groupe de réflexion mondial, ont découvert un réseau de 200 comptes nazis qui produisaient plusieurs vidéos faisant la promotion du nazisme ou utilisaient des symboles nazis dans leurs profils.
Le contenu qu’ils ont trouvé sur ces comptes rassemble « des dizaines de millions de vues » sur la plateforme avec des récits sur le déni de l’Holocauste, la glorification d’Hitler et « le nazisme comme solution aux problèmes contemporains ».
« Les nazis autoproclamés considèrent TikTok comme une plateforme propice à la diffusion de leur idéologie, qui peut être utilisée pour atteindre « beaucoup plus de personnes », même si les comptes sont nouveaux ou ont peu d’abonnés », peut-on lire dans un résumé du rapport.
TikTok déclare qu’il n’y a « aucune violation »
Les groupes nazis utilisent l’intelligence artificielle générative (GenAI) dans nombre de leurs vidéos pour « créer des caricatures déshumanisantes de groupes raciaux et ethniques non blancs », selon le rapport de l’ISD. D’autres vidéos utilisent des traductions générées par l’IA des discours d’Adolf Hitler de manière à moderniser leur propagande.
Certaines chansons, associées à des images nazies et à des langages codés dans l’application, permettent à d’autres contenus de passer inaperçus aux modérateurs de la plateforme, poursuit l’étude.
Les directives communautaires de TikTok stipulent que tout contenu utilisant des « stéréotypes, des insinuations ou des déclarations indirectes susceptibles de dénigrer implicitement un groupe protégé » ne sera pas affiché dans un flux « Pour vous ».
Plusieurs formes de désinformation, notamment les théories du complot, les supports détournés et les fausses informations « potentiellement dangereuses » qui sont vérifiées, seront également interdites dans les flux. Le contenu nazi n’est pas explicitement mentionné dans les règles de la communauté.
Les chercheurs ont signalé à TikTok que 50 de ces comptes violaient certains éléments des directives de la plateforme concernant les idéologies haineuses. Tous les rapports renvoyés aux chercheurs n’ont révélé « aucune violation » de la part de ces comptes.
D’autres recherches ont déjà identifié que l’algorithme de TikTok envoie du contenu misogyne ou haineux à des « utilisateurs fictifs » quelques minutes après avoir utilisé l’application dans sa « page Pour vous ».
Les chercheurs de l’étude ISD ont utilisé un compte fictif pour regarder 10 vidéos et ont consulté les pages de 10 comptes pro-nazis avant qu’un contenu similaire ne soit suggéré par l’application.
Un effort coordonné
Les vidéos nazies finissent par être importantes sur TikTok parce qu’il existe une coordination multiplateforme avec les militants sur Telegram pour atteindre un public plus large avec leur contenu vidéo de courte durée, affirment les chercheurs.
« (Les activistes pro-nazis) coordonnent un effort pour « pimenter » les vidéos grâce à un engagement de masse ; en partageant des vidéos, des images et des sons téléchargeables à partager sur des plateformes comme TikTok », poursuit le rapport.
Un exemple de cette coordination est celui d’un compte Telegram « activiste » qui a fait la promotion d’un documentaire néonazi qui pousse certains utilisateurs de TikTok à faire de la propagande plus explicite. La chaîne demande à ses abonnés de promouvoir le film et de « couvrir TikTok de vidéos de réaction » pour que le film devienne viral.
L’Observatoire de l’Europe Next a contacté TikTok mais n’a pas reçu de réponse au moment de la publication.
