L’émission de téléréalité controversée de Netflix voit cinq couples mettre leur confiance à l’épreuve – mais une fausse science profonde brouille la ligne de vérité et de mensonges. Est-ce un divertissement ou une forme de torture technologique ?
Les émissions de rencontres ont une longue tradition de repousser les limites de la pertinence pour se démarquer.
Depuis les années 2010 plastie nuptiale, qui a vu 12 futures mariées concourir pour la chirurgie plastique, au spectacle d’horreur des années 2000 Jouer directementoù une femme devait décider lequel des 14 hommes était hétérosexuel et lequel faisait simplement semblant, la controverse persiste dans le genre depuis des années.
Alors que l’intelligence artificielle (IA) devient de plus en plus répandue dans notre vie quotidienne, il n’est pas surprenant que les producteurs d’émissions de téléréalité l’adoptent comme une pratique courante.
Chez Netflix Trop chaud pour le manipuler, les candidats sont surveillés par un cône apparemment qui voit tout, qui leur inflige une amende pour tout acte sexuel pendant leur séjour à une «retraite» où le contact physique est interdit. Dans Le cercleles joueurs se cachent derrière un écran, se créent de nouvelles personnalités et flirtent souvent pour gagner le grand prix.
Bien que ces exemples soient discrets Black Mirror_-esque et surtout inoffensif, l’émission Netflix récemment publiée Faux amour profond (ou Falso Amor dans l’original espagnol) est tout sauf ça.
Un avertissement prémonitoire contre l’utilisation de l’IA pour le divertissement
La série de rencontres de réalité espagnole franchit la ligne de l’utilisation de l’IA d’une manière légère et fantaisiste à son utilisation comme une tactique cruelle pour faire souffrir les participants.
Le spectacle tourne autour de cinq couples qui sont tous dans des relations sérieuses, certains qui sont fiancés et d’autres qui sont ensemble depuis des années.
Chaque couple a deux choses en commun – leurs partenariats sont quelque peu tendus et ils ne savent pas dans quoi ils s’embarquent en choisissant de s’impliquer dans le spectacle franchement horrifiant.
Dans le premier épisode, les couples sont séparés et envoyés dans des maisons séparées appelées « Mars » et « Vénus », toutes deux pleines de célibataires désireux de leurs 15 minutes d’infamie.
À la fin de chaque journée, la moitié de chaque couple voit des vidéos de leur partenaire s’embrasser ou se comporter sexuellement avec les célibataires.
Regarder les réactions des individus qui voient leurs partenaires les tromper et briser leur confiance déjà fragile rend le visionnage dégueulasse – mais ce n’est pas réel.
En fait, ce n’est qu’après que les couples ont visionné les vidéos traumatisantes – dont beaucoup sont visiblement dévastées – qu’on leur dit que les films pourraient être faux.
L’animatrice Raquel Sánchez Silva explique aux participants que les scénarios dans lesquels leurs partenaires sont infidèles sont pour la plupart faux, modifiés avec une technologie de contrefaçon profonde.
Avec cela, le jeu est lancé.
Il s’avère qu’un prix de 100 000 € est en jeu, mais il n’est pas attribué sur la base de la fidélité ou de la confiance. Au lieu de cela, les gagnants seront le couple qui sera capable de déchiffrer le plus grand nombre de vidéos comme vraies ou fausses.
En tant que spectateur, on nous dit très tôt comment les modifications de l’IA se décomposent, montrant un écran partagé d’une interaction entre deux personnes se comportant souvent de manière totalement innocente d’un côté et des acteurs qui vont dans l’ensemble, trompant le porc de l’autre.
Les visages de ceux qui ne trichent pas sont scannés sur ceux des acteurs, tandis que des mots offensants sont littéralement mis dans la bouche des autres. C’est stupéfiant à regarder et probablement l’utilisation la plus brutale de l’IA que nous ayons vue jusqu’à présent.
Une utilisation inutile et vicieuse de l’IA
Dans le premier épisode, la technologie laisse croire à un candidat que son partenaire met à mal sa relation de cinq ans dès qu’il est présenté aux célibataires.
D’autres sont vus s’embrasser passionnément alors qu’en réalité, ils n’ont même pas touché l’autre personne. C’est la télévision sur les accidents de voiture à son niveau le plus bas depuis le départ.
Au fur et à mesure que la série progresse et que les couples séparés sont plus tentés que jamais, il devient clair que les vidéos sont parfois réelles.
Les contrefaçons profondes deviennent de plus en plus torrides, l’IA étant utilisée pour donner l’illusion d’un sexe complet.
En fin de compte, que les individus trichent ou non importe peu. Les couples qui regardent les vidéos sont de toute évidence traumatisés par la pensée même de l’infidélité, sans parler d’être forcés de voir les visages de leurs proches dans des situations compromettantes. Psychologiquement, le cerveau ne peut pas facilement faire la distinction entre ce qui est réel et ce qui ne l’est pas.
Sans surprise, la misère provoquée par les fausses vidéos inspire suffisamment de doutes raisonnables pour que les participants ignorent toute culpabilité et poursuivent leurs propres pulsions physiques, brouillant encore plus les frontières entre ce qui est réel et ce qui est faux.
À la fin de la série, chaque couple découvre quelles vidéos étaient réelles et lesquelles étaient fausses, creusant encore plus un fossé entre les couples précédemment consacrés.
Faux amour profond n’est pas seulement une expérience pour causer des dommages psychologiques totalement inutiles à la vie personnelle des candidats, mais crée également un sombre précédent pour l’avenir de l’IA.
Dans le toujours populaire de Charlie Brooker Miroir noir série, on nous montre un monde dans un avenir pas trop lointain où nos vies sont entièrement contrôlées par la technologie.
Comme on le voit dans la série six » Joan is Awful », le scénario de Brooker préfigure une ère de ‘divertissement généré automatiquement’, rendant effectivement superflus les acteurs de la vie réelle – tant qu’ils sont prêts à ce que leurs ressemblances soient ‘clonées’ à des fins de divertissement.
Faux amour profond ne scanne que les visages des concurrents, en utilisant des doublures corporelles pour le reste de la sauvagerie, la technologie pour créer des contrefaçons profondes du corps entier s’améliore constamment. Il est probable que les doubles corps pourraient être entièrement obsolètes dans un proche avenir.
Grève pour l’utilisation abusive de l’IA
C’est au premier plan de l’esprit de beaucoup de ceux qui sont actuellement en grève pour SAG-AFTRA à Hollywood et l’industrie dans son ensemble.
L’une de leurs principales raisons de faire grève est « d’établir un ensemble complet de dispositions pour protéger le travail créé par l’homme et exiger un consentement éclairé et une compensation équitable lorsqu’une « réplique numérique » est faite d’un artiste-interprète, ou lorsque sa voix, son image ou sa performance seront considérablement modifiées à l’aide de l’IA ».
Ils ont souvent affirmé que l’Alliance des producteurs de mouvement et des producteurs de télévision (AMPTP) n’avait pas fait assez pour garantir que les écrivains et les acteurs ne soient pas progressivement remplacés par des répliques numériques.
Faux amour profonden plus d’être barbare envers les participants qui voulaient innocemment trouver la gloire et peut-être quelques milliers d’euros, s’avère un dangereux exemple pour l’avenir.
C’est aussi dommageable au niveau humain. Alors que l’appétit pour de plus en plus d’émissions de rencontres extrêmes ne semble pas s’éteindre – de plus en plus de gens postulent pour la version britannique de Love Island qu’Oxbridge chaque année – Faux amour profond est simplement allé trop loin.
Si la poubelle TV est le sol, Faux amour profond est au sous-sol
C’est, à la base, une télévision poubelle et bien que ce soit généralement une perspective attrayante pour de nombreux téléspectateurs en tant que source de conversation idéale pour les refroidisseurs d’eau, l’émission Netflix est tout simplement inhumaine à tous points de vue.
La vie est déjà assez dure, avec les incendies de forêt qui font rage et l’inflation qui voit les gens souffrir de malnutrition – pourquoi diable cela a-t-il obtenu le feu vert ?
Un visionnage inconfortable peut parfois être divertissant pour le public, en particulier lorsqu’il s’agit de soutenir un outsider. Les sociétés de télévision utilisant des contrefaçons profondes pour détruire les relations comme une forme de divertissement, cependant, sont tout simplement insensibles et préjudiciables aux participants et aux téléspectateurs.
Faux amour profond est déchirant et constitue un test absolument intéressant des utilisations de la technologie, mais il aurait dû être laissé sur le sol de la salle de montage ou, mieux encore, jamais même mis en service.
Il n’est pas surprenant que l’émission soit très populaire sur Netflix, donc ce ne serait pas un choc s’il y avait des versions internationales. Il ne devrait vraiment pas y en avoir – ce n’est pas seulement la programmation la plus odieuse de ces dernières années, mais elle sert également d’avertissement significatif sur les dangers de l’utilisation de l’IA. à des fins de divertissement et dans la vraie vie.
Faux amour profond est en streaming maintenant sur Netflix.
