Le créateur de ChatGPT a déclaré qu’il bloquait les formes d’abus particulièrement préjudiciables, telles que les contenus pédopornographiques et les deepfakes sexuels.
OpenAI propose son outil vidéo de création d’IA aux millions d’utilisateurs qui paient pour ChatGPT, marquant ainsi la prochaine vague d’intelligence artificielle.
La société a publié lundi la dernière version de son générateur vidéo Sora, Sora Turbo, qui donnera aux utilisateurs la possibilité de créer un contenu vidéo de 20 secondes qui semble photoréaliste et ajoute aux craintes de vidéos plus deepfake.
OpenAI a déclaré que le produit ne serait pas encore disponible dans l’Espace économique européen, en Suisse ou au Royaume-Uni, peut-être en raison de réglementations, ce qui a été le cas pour les autres produits d’OpenAI, qui ont atteint le marché européen à une date ultérieure.
« Nous allons faire de notre mieux pour pouvoir nous lancer là-bas », a déclaré lundi Sam Altman, PDG d’OpenAI.
L’entreprise souhaite également empêcher l’utilisation illégale de l’outil, « mais nous voulons également équilibrer cela avec une expression créative », a-t-il ajouté.
OpenAI a déclaré avoir mis en œuvre certaines garanties, notamment des filigranes visibles et des métadonnées de vérification. Au début, il y aura des limites au téléchargement d’images de personnes, car la société a déclaré qu’elle affine ses mesures d’atténuation des deepfakes.
La société a déclaré dans un article de blog qu’elle bloquait les formes d’abus particulièrement préjudiciables, telles que les contenus pédopornographiques et les deepfakes sexuels.
La modération du contenu utilisateur commencera « un peu de manière conservatrice », mais si elle « ne fonctionne pas tout à fait correctement, faites-nous simplement part de vos commentaires », a déclaré Altman.
OpenAI a également déclaré que Sora avait encore des limites. « Cela génère souvent une physique irréaliste et se heurte à des actions complexes sur de longues durées », a déclaré la société.
OpenAI a présenté Sora pour la première fois en février, mais il n’était accessible qu’à certains cinéastes, artistes et testeurs de sécurité.
OpenAI n’est pas la seule entreprise à travailler sur des outils vidéo d’IA. Meta développe Movie Gen et Google a sorti son générateur vidéo Veo. Cependant, les deux ne sont pas accessibles au public.
