Julia, 21 ans, a reçu de fausses photos d’elle nue générées par l’intelligence artificielle. Le phénomène explose.
« J’avais déjà entendu parler des deepfakes et des deepnudes (…) mais je n’en avais pas vraiment conscience jusqu’à ce que ça m’arrive. C’était un événement un peu anecdotique qui s’est produit dans la vie d’autres personnes, mais cela n’arriverait pas dans le mien », pensait Julia, une étudiante belge en marketing de 21 ans et mannequin semi-professionnelle.
Fin septembre 2023, elle reçoit un email d’un auteur anonyme. Sujet : « Réaliste ? « On se demande quelle photo vous ressemblerait le plus », lit-elle.
Ci-joint cinq photos d’elle.
Dans le contenu original, posté sur ses réseaux sociaux, Julia pose habillée. Devant ses yeux se trouvent les mêmes photos. Seulement cette fois, Julia est complètement nue.
Julia n’a jamais posé nue. Elle n’a jamais pris ces photos. La mannequin belge se rend compte qu’elle a été victime d’un deepfake.
Deepfakes
Les deepfakes, ou hypertrucages, sont de faux contenus photo, vidéo ou audio créés ou modifiés grâce à l’intelligence artificielle, souvent hyperréalistes.
L’individu a utilisé une application d’intelligence artificielle pour se déshabiller.
Julia a menacé de porter plainte. Son interlocuteur a tenté de l’en dissuader, affirmant qu’il voulait « lui faire prendre conscience des dangers de l’intelligence artificielle ». « Tout le monde le fait », banalise-t-il.
Le lendemain, la jeune femme porte plainte au commissariat « par service ».
« Je voulais vraiment le faire à des fins statistiques et parce que je ne voulais pas me laisser exploiter », explique-t-elle.
Elle a été prévenue que « le parquet était débordé » et qu’il y avait « très peu de chances » que sa plainte aboutisse, se souvient l’étudiante.
Elle s’est confiée à sa mère et à ses amis proches, a livré son témoignage sur ses réseaux sociaux et a reçu de nombreux soutiens de la part de ses followers. « Certaines personnes ont voulu m’aider, d’autres ont juste envoyé un petit mot », explique l’étudiante, qui se dit « très bien accompagnée ».
Julia reçoit également des témoignages d’autres victimes. Dans leur cas, « c’était plutôt dans un contexte de vengeance pornographique », explique-t-elle. C’est quelque chose de beaucoup plus courant qu’on ne le pense », prévient le mannequin, qui s’inquiète de cette banalisation.
Après avoir pris une pause d’un mois dans le mannequinat – « Je n’avais plus envie de tourner » – le mannequin a repris ses projets.
directive européenne
« Les plateformes n’en font clairement pas assez », déplore l’étudiant.
« La loi elle-même est là, elle a été créée, mais elle n’est pas appliquée », dit-elle.
Une directive européenne sur les violences à l’égard des femmes a adopté début février des mesures plus strictes contre la cyber-violence.
« C’est très bien, mais c’est trop tard. Cela aurait dû être fait avant que ces applications soient autorisées sur le territoire européen », regrette Julia. Je suis contrarié car ce sont des choses qui auraient pu être évitées si elles avaient été faites correctement et dans l’ordre ».
La jeune femme, qui a été reçue par la secrétaire d’État belge à l’Égalité des genres, Marie-Colline Leroy, attend des pouvoirs publics qu’ils apportent « un soutien et des moyens efficaces » pour identifier les auteurs de deepfakes et contraindre les plateformes à modérer leurs contenus.
Selon une étude de l’Université d’Anvers, 7% des Belges âgés de 15 à 25 ans ont déjà réalisé des deepnudes.
Cela encourage également d’autres victimes de deepnude à s’exprimer.
Un phénomène croissant
La start-up Home Security Heroes rapporte qu’un total de 95 820 vidéos générées grâce à l’intelligence artificielle seront mises en ligne en 2023. Cela représente une augmentation de 550 % par rapport à 2019.
Les deepfakes pornographiques représentent 98 % des deepfakes sur le web, selon son rapport State of deepfakes, publié en 2023. 99 % des personnes ciblées sont des femmes.
Pas besoin d’être un expert. Selon la même étude, la création d’une vidéo pornographique deepfake gratuite prend moins de 25 minutes et ne nécessite qu’une seule image claire d’un individu.
De son côté, l’analyste américaine Geneviève Oh estime qu’il y aura plus de 275 000 vidéos pornographiques deepfake sur la toile d’ici le troisième trimestre 2023.
