Cette décision fait suite à une surveillance accrue des politiques de sécurité d’OpenAI
OpenAI transforme son comité de sécurité interne en un conseil de surveillance « indépendant », a déclaré la société dans un article de blog publié lundi.
Le créateur de ChatGPT a également déclaré que le soi-disant Comité de sécurité et de sûreté sera présidé par le professeur de Carnegie Mellon Zico Kolter.
Le comité dévoilé en mai comprenait initialement le PDG Sam Altman, mais aura désormais une « gouvernance indépendante ».
OpenAI a été critiquée pour sa culture de sécurité. En juin, un groupe d’employés actuels et anciens d’OpenAI a publié une lettre ouverte, mettant en garde contre « les risques graves posés par ces technologies ».
De nombreux employés de haut rang, dont le cofondateur Ilya Sutskever, ont démissionné de l’entreprise, invoquant des problèmes de sécurité.
Un mois plus tard, cinq sénateurs américains ont soulevé des questions sur la manière dont OpenAI répond aux préoccupations émergentes en matière de sécurité dans une lettre adressée à Altman.
OpenAI a déclaré que le comité « indépendant » sera informé des nouveaux modèles et que le conseil d’administration pourra retarder la publication de tout nouveau modèle.
La société a également déclaré que le comité avait examiné le nouveau modèle o1, nom de code Strawberry, et avait déclaré qu’il présentait un « risque moyen ».
« Dans le cadre de ses travaux, le Comité de sûreté et de sécurité… continuera de recevoir des rapports réguliers sur les évaluations techniques des modèles actuels et futurs, ainsi que des rapports de surveillance continue après la publication », a écrit OpenAI dans son article de blog.
« Nous nous appuyons sur nos processus et pratiques de lancement de modèles pour établir un cadre de sécurité et de sûreté intégré avec des critères de réussite clairement définis pour les lancements de modèles », a-t-il ajouté.
Les autres membres du comité incluent le PDG de Quora, Adam D’Angelo, le général de l’armée américaine à la retraite et ancien chef de la NSA, Paul Nakasone, et l’ancienne conseillère juridique générale de Sony, Nicole Seligman.
