Une nouvelle étude a révélé que les suggestions de recherche de TikTok contenaient un langage toxique envers les femmes et les minorités en Finlande.
Le manque de modération de TikTok a conduit à l’apparition d’un langage objectivant et sexiste dans les suggestions de recherche pour les femmes politiques et a diffusé presque exclusivement des informations négatives sur certains hommes et femmes politiques.
Ce sont les résultats des recherches menées par la société de méthodologie finlandaise CheckFirst et par le service de vérification des faits Faktabaari, dans le cadre de leur projet CrossOver.
Par exemple, les suggestions concernant l’ancienne Première ministre Sanna Marin comprenaient « une vidéo de masturbation de Sanna Marin ».
Parmi les suggestions adressées à Eva Biaudet, députée du Parti populaire suédois de Finlande (centre-droit), figurait « Eva et Kristian font l’amour dans le sauna ».
Les suggestions de recherche sont en partie influencées par les recherches effectuées par d’autres utilisateurs, ce qui signifie qu’elles peuvent par inadvertance perpétuer des stéréotypes et des fausses déclarations.
Certaines de ces suggestions n’étaient pas aléatoires mais liées à des recherches effectuées et à des vidéos produites sur les individus, indique le rapport, et beaucoup d’entre elles étaient négatives ou problématiques.
Les suggestions de recherche étaient souvent accusatrices ou critiques envers les hommes politiques, comme « retournement de veste » pour Mauri Peltokangas, député du Parti des Finlandais d’extrême droite, et « enlèvement d’enfants » pour Pekka Haavisto, député de la Ligue verte de centre-gauche.
Tout cela a potentiellement créé un biais dans la façon dont le public les perçoit et est particulièrement dangereux à l’approche d’une élection, comme ce fut le cas avec le contenu en finnois à l’approche des élections européennes.
Plus généralement, les résultats de recherche de TikTok contenaient un langage préjudiciable à l’encontre des groupes marginalisés, notamment les femmes, les juifs et la communauté LGBT, selon le rapport.
Les suggestions pour « femmes » comprenaient « dans la cuisine » et « ferme ta gueule », tandis que d’autres phrases de saisie semi-automatique proposées étaient « les Roms volent » et « les réfugiés sortent ».
Ces suggestions aggravent les discours de haine, indique le rapport, ajoutant que TikTok ne fait pas assez pour lutter contre le sectarisme sur sa plateforme.
Des suggestions controversées liées à la COVID-19 ont également été émises.
« Les méfaits des vaccins » et « la peur des vaccins » en sont deux exemples. Même si ces propos ont généralement donné lieu à des vidéos d’experts démystifiant les craintes liées aux vaccins, des contenus évoquant les prétendus dangers des vaccins sont tout de même passés entre les mailles du filet.
Le rapport indique que la présence de ces vidéos suggère que les mesures de TikTok contre la désinformation doivent être examinées plus en détail et que la plateforme devrait modérer ses suggestions de recherche.
Alors que de plus en plus de personnes s’informent via les médias sociaux, il est essentiel que ces derniers mettent en place des mesures pour lutter contre les discours nuisibles et trompeurs.
« Les recommandations sont en partie basées sur des hashtags, et même les hashtags rarement utilisés finissent par être des suggestions de recherche », a déclaré Guillaume Kuster, cofondateur de CheckFirst, dans une déclaration écrite. « Cela signifie que les résultats de recherche peuvent être facilement influencés en automatisant les vidéos avec des hashtags spécifiques. »
« TikTok devrait également explorer d’autres moyens de diriger les utilisateurs vers des informations électorales précises, car étiqueter les vidéos comme contenu électoral est clairement insuffisant, TikTok pourrait offrir aux utilisateurs des informations sur les élections et des rappels pour voter, à l’instar d’autres plateformes (sic) », a-t-il ajouté.
Un porte-parole de TikTok a déclaré à The Cube : « Nous consacrons des ressources importantes à la protection de l’intégrité de notre plateforme pendant les élections, notamment en connectant notre communauté à des informations fiables dans nos centres électoraux et en supprimant les recherches nuisibles et autres violations de nos politiques. »
« Nous investissons continuellement dans l’amélioration et le renforcement de nos processus, y compris dans les langues locales », a ajouté le porte-parole.
