Les dangers potentiels de l’IA générative préoccupent le public, les politiciens et les chercheurs en IA.
OpenAI a élargi son processus de sécurité interne pour lutter contre la menace de l’intelligence artificielle (IA) nuisible alors que les gouvernements cherchent à réprimer cette technologie.
La start-up, qui revendique son chatbot ChatGPT au succès retentissant et est soutenue par Microsoft, a annoncé qu’elle mettrait en place une équipe dédiée pour superviser le travail technique et une structure opérationnelle, qui permettrait également au conseil d’administration d’annuler les décisions de sécurité.
« Nous créons un groupe consultatif interfonctionnel sur la sécurité pour examiner tous les rapports et les envoyer simultanément à la direction et au conseil d’administration. Bien que la direction soit le décideur, le conseil d’administration a le droit de revenir sur les décisions », a déclaré la société. sur son site Internet lundi.
L’entreprise a mis à jour son « cadre de préparation », affirmant qu’elle investirait également dans des évaluations et des prévisions diligentes des capacités afin de mieux détecter les risques émergents. Il a également déclaré qu’il mettrait continuellement à jour les « tableaux de bord » de ses modèles.
«Nous évaluerons tous nos modèles frontières, y compris à chaque augmentation de calcul efficace de 2 fois pendant les entraînements. Nous pousserons les modèles jusqu’à leurs limites », a déclaré OpenAI.
Les dangers potentiels de cette technologie préoccupent le public, les politiciens et les chercheurs en IA, car l’IA générative peut propager la désinformation.
OpenAI, qui est la start-up la plus valorisée des États-Unis, a été plongée dans la tourmente en novembre lorsque son co-fondateur et PDG Sam Altman a été démis du conseil d’administration et que la majorité du personnel de l’entreprise a menacé de démissionner à moins qu’il ne soit réintégré.
Quelques jours avant qu’Altman ne soit renvoyé du conseil d’administration, plusieurs chercheurs ont écrit une lettre au conseil d’administration pour l’avertir d’une puissante découverte d’IA qui pourrait menacer l’humanité, a rapporté Reuters en novembre, citant deux personnes proches du dossier.
Les gouvernements du monde entier commencent à réglementer la technologie, l’Union européenne devenant la première à accepter un règlement sur l’IA.
