Une agence des Nations Unies prévient que les développements de l’intelligence artificielle (IA) pourraient engendrer une nouvelle vague de négation de l’Holocauste.
Une agence des Nations Unies prévient que les développements de l’intelligence artificielle (IA) pourraient alimenter une nouvelle vague de négation de l’Holocauste.
Un rapport de l’UNESCO publié mardi suggère que les systèmes d’IA pourraient déformer les informations sur l’Holocauste parce qu’ils pourraient être formés pour répondre aux questions à ce sujet provenant de sites Web négationnistes.
Il a déclaré que l’IA a été utilisée pour « déformer les contenus liés à l’Holocauste, créer des témoignages fabriqués et même modifier des documents historiques ». L’UNESCO a également mis en garde contre les deepfakes, des images ou des vidéos réalistes qui suggèrent que l’Holocauste n’a pas eu lieu ou ont été exagérées.
Une application permet déjà aux utilisateurs de parler directement à des personnalités nazies comme Adolf Hitler.
Les modèles d’IA générative inventent ou « hallucinent » également des événements, des personnalités et des histoires lorsqu’ils n’ont pas accès à suffisamment de données.
Bard et ChatGPT de Google ont produit du contenu sur les événements liés à l’Holocauste « qui n’ont jamais eu lieu », poursuit le rapport.
ChatGPT a fabriqué le concept selon lequel les nazis auraient noyé des Juifs dans des rivières et des lacs lors d’une campagne dite de « l’Holocauste par noyade ». Bard, de son côté, a généré de fausses citations de témoins pour étayer de faux récits sur les massacres.
« Si nous permettons que les horribles faits de l’Holocauste soient dilués, déformés ou falsifiés par l’utilisation irresponsable de l’IA, nous risquons une propagation explosive de l’antisémitisme et une diminution progressive de notre compréhension des causes et des conséquences de ces atrocités », Audrey Azoulay , le directeur général de l’UNESCO, a déclaré dans un communiqué accompagnant le rapport.
Le rapport de l’UNESCO appelle les entreprises technologiques à établir des règles éthiques pour le développement et l’utilisation de l’IA, à réduire les risques d’informations peu fiables et à empêcher les mauvais acteurs d’exploiter leurs programmes pour encourager la violence et propager des mensonges sur l’Holocauste.
Le rapport a été publié en partenariat avec le Congrès juif mondial.
