Une vidéo manipulée contient une voix off imitant Kamala Harris et incluant de fausses déclarations qu’elle n’a pas faites.
Une vidéo manipulée imitant la voix de la vice-présidente américaine Kamala Harris a suscité des inquiétudes quant au pouvoir de l’intelligence artificielle (IA) pour induire en erreur lors des élections.
La vidéo a attiré l’attention après que le PDG de Tesla et SpaceX, Elon Musk, l’a partagée sur sa plateforme de médias sociaux X vendredi soir sans préciser qu’elle avait été initialement publiée comme une parodie.
Elon Musk a depuis republié la vidéo en incluant la légende de l’utilisateur d’origine indiquant qu’il s’agissait d’une parodie et ajoutant que « la parodie est légale en Amérique ».
La vidéo utilise des éléments visuels d’une véritable publicité de campagne présidentielle de Harris, mais remplace sa voix off par une voix qui imite la probable candidate démocrate à la présidence.
Mia Ehrenberg, porte-parole de la campagne de Harris, a déclaré dans un courriel à l’Associated Press : « Nous pensons que le peuple américain veut la véritable liberté, l’opportunité et la sécurité que la vice-présidente Harris offre, et non les mensonges faux et manipulés d’Elon Musk et de Donald Trump. »
Cette vidéo largement partagée est un exemple de la manière dont le contenu réaliste généré par l’IA, devenu plus facile à créer, est utilisé pour parodier ou induire en erreur sur la politique en période électorale.
Certains utilisateurs en ligne se sont demandé si la publication de Musk pourrait violer les politiques de Xqui stipulent que les utilisateurs « ne peuvent pas partager de médias synthétiques, manipulés ou hors contexte qui pourraient tromper ou dérouter les gens et entraîner des préjudices ».
La politique prévoit une exception pour les mèmes et la satire, à condition qu’ils ne provoquent pas de « confusion significative quant à l’authenticité des médias ».
La première publication de la vidéo par Musk ne précisait pas qu’il s’agissait d’une parodie et ne montrait la vidéo qu’avec les mots « C’est incroyable ».
Le milliardaire de la technologie a soutenu l’ancien président Donald Trump, le candidat républicain, plus tôt ce mois-ci.
Ni le YouTubeur qui a publié la vidéo, connu sous le nom de M. Reagan, ni Musk n’ont immédiatement répondu aux demandes de commentaires envoyées par courrier électronique dimanche.
« C’est le genre de chose contre laquelle nous avons mis en garde »
Deux experts spécialisés dans les médias générés par l’IA ont examiné l’audio de la fausse publicité et ont confirmé qu’une grande partie de celle-ci avait été générée à l’aide de la technologie de l’IA.
L’un d’eux, Hany Farid, expert en criminalistique numérique de l’Université de Californie à Berkeley, a déclaré que la vidéo montre la puissance de l’IA générative et des deepfakes.
« La voix générée par l’IA est très bonne », a-t-il déclaré dans un courriel. « Même si la plupart des gens ne croient pas qu’il s’agit de la voix de la vice-présidente Harris, la vidéo est d’autant plus puissante lorsque les mots sont prononcés par sa voix. »
Il a déclaré que les entreprises d’IA générative qui mettent à la disposition du public des outils de clonage de voix et d’autres outils d’IA devraient faire mieux pour garantir que leurs services ne soient pas utilisés d’une manière qui pourrait nuire aux personnes ou à la démocratie.
Rob Weissman, coprésident du groupe de défense Public Citizen, n’était pas d’accord avec Farid, affirmant qu’il pensait que de nombreuses personnes seraient trompées par la vidéo.
« Je ne pense pas que ce soit une blague », a déclaré Weissman dans une interview. « Je suis sûr que la plupart des gens qui la regardent ne pensent pas que c’est une blague. La qualité n’est pas excellente, mais elle est assez bonne. Et précisément parce qu’elle alimente des thèmes préexistants qui ont circulé autour d’elle, la plupart des gens croiront qu’elle est réelle. »
Weissman, dont l’organisation a plaidé pour que le Congrès, les agences fédérales et les États réglementent l’IA générative, a déclaré que la vidéo est « le genre de chose contre laquelle nous mettons en garde ».
