Un nouveau rapport international sur l’intelligence artificielle (IA) a été publié avant un sommet en France le mois prochain.
Les systèmes avancés de l’intelligence artificielle (IA) ont le potentiel de créer de nouveaux risques extrêmes, selon un nouveau rapport international publié mercredi avant un sommet majeur à Paris le mois prochain.
Les risques incluent alimenter les pertes d’emplois généralisées, permettant au terrorisme ou à la société de perdre le contrôle de la technologie, ont déclaré des experts.
Le rapport scientifique international sur la sécurité de l’IA avancée est soutenu par 30 pays, dont les États-Unis et la Chine, marquant une coopération rare entre les deux pays alors qu’ils se battent sur la technologie.
Cette semaine, la start-up chinoise Deepseek a secoué les marchés mondiaux avec son chatbot budgétaire.
« Les enjeux sont élevés », indique le rapport, notant qu’il y a quelques années, les meilleurs systèmes d’IA pouvaient à peine cracher un paragraphe cohérent.
« Aujourd’hui, l’IA à usage général peut écrire des programmes informatiques, générer des images photoréalistes personnalisées et s’engager dans des conversations ouvertes étendues », a ajouté le rapport.
Risques supplémentaires
Bien que certains préjudices d’IA soient déjà largement connus, tels que Deepfakes, des escroqueries et des résultats biaisés, le rapport indique que « à mesure que l’IA générale devient plus capable, les preuves de risques supplémentaires émergent progressivement » et que les techniques de gestion des risques ne sont que dans leurs premiers à leurs premiers étapes.
Le rapport se concentre sur l’IA d’usage général, caractérisé par des chatbots tels que le chatppt d’Openai utilisé pour effectuer de nombreux types de tâches.
Les risques se répartissent en trois catégories: une utilisation malveillante, des dysfonctionnements et des risques «systémiques» généralisés.
L’IA facilite, par exemple, savoir comment créer des armes biologiques ou chimiques car les modèles d’IA peuvent fournir des plans étape par étape.
Mais il est « clair à quel point ils capturent les défis pratiques » de l’armement et de la livraison des agents, a-t-il déclaré.
L’IA à usage général est également susceptible de transformer une gamme d’emplois et de « déplacer les travailleurs », dit le rapport, notant que certains chercheurs pensent que cela pourrait créer plus d’emplois qu’il en retire, tandis que d’autres pensent que cela fera baisser les salaires ou les taux d’emploi, bien que Il y a beaucoup d’incertitude sur la façon dont cela se déroulera.
Les systèmes d’IA pourraient également être incontrôlables, soit parce qu’ils sapent activement la surveillance humaine, soit les humains accordent moins d’attention, selon le rapport.
Cependant, une série de facteurs rend difficile la gestion des risques, y compris les développeurs de l’IA, en sachant peu sur le fonctionnement de leurs modèles, ont déclaré les auteurs.
Coopération internationale sur la sécurité de l’IA
Le document a été mis en service lors d’un premier sommet mondial sur la sécurité de l’IA organisé par la Grande-Bretagne en novembre 2023, où les nations ont convenu de travailler ensemble pour contenir des « risques catastrophiques ».
Lors d’une réunion de suivi organisée par la Corée du Sud l’année dernière, les sociétés de l’IA se sont engagées à développer la sécurité de l’IA tandis que les dirigeants mondiaux soutenaient de la création d’un réseau d’instituts publics de sécurité de l’IA.
Le rapport, également soutenu par les Nations Unies et l’Union européenne, vise à résumer les changements dans les gouvernements, tels que la récente transition présidentielle aux États-Unis, laissant à chaque pays de choisir la façon dont il réagit aux risques d’IA.
Le président Donald Trump a annulé les politiques de sécurité de l’IA de l’ancien président Joe Biden lors de son premier jour de pouvoir et a depuis ordonné à sa nouvelle administration de créer sa propre approche.
Mais Trump n’a fait aucune décision pour dissoudre l’Institut de sécurité de l’IA que Biden a formé l’année dernière, faisant partie d’un réseau international croissant de ces centres.
Les dirigeants mondiaux, les patrons de la technologie et la société civile devraient se réunir à nouveau au Sommet d’action de l’AI Paris le mois prochain.
Les responsables français ont déclaré que les pays signeront une « déclaration commune » sur le développement de l’IA et accepteront un engagement sur le développement durable de la technologie.
