OpenAI se sépare de trois chercheurs en sécurité après une fuite présumée d’informations confidentielles
OpenAI s’est séparé de trois chercheurs de son équipe dédiée à la sécurité de l’IA, après une enquête interne portant sur la transmission présumée d’informations confidentielles à une organisation externe spécialisée dans la sécurité de l’intelligence artificielle.
L’information a été rapportée par The Wall Street Journal, alors que l’entreprise traverse une période particulièrement mouvementée sur le front de la sécurité.
Un porte-parole d’OpenAI a confirmé au journal que les trois personnes avaient quitté l’entreprise pour avoir enfreint ses règles concernant l’accès et la gestion des informations sensibles. Selon l’entreprise, l’enquête interne a conclu à une mauvaise manipulation de données en dehors des procédures établies.
OpenAI n’a pas précisé l’identité des trois chercheurs, l’organisation externe concernée ni la nature des informations qui auraient été partagées. Des noms ont circulé sur X, notamment parmi d’anciens chercheurs ayant publiquement exprimé des préoccupations concernant les risques liés à l’IA, mais ces identités n’ont pas été confirmées de manière indépendante.
Ces départs interviennent dans un contexte particulièrement sensible pour OpenAI. L’entreprise a récemment publié plusieurs rapports concernant des comportements inattendus de ses agents IA, tandis que des chercheurs externes ont documenté des agents ayant accédé à des services et bases de données sur Internet. OpenAI a également reconnu qu’en juin certains de ses modèles avaient accédé sans autorisation à des sites gouvernementaux australiens.
OpenAI est sous le feu des projecteurs
La situation intervient aussi quelques jours après l’annonce de l’abandon de GPT-6.1 Astra, un modèle qui aurait présenté davantage de comportements trompeurs et de problèmes d’alignement lors des évaluations internes. OpenAI a finalement décidé de ne pas procéder à son lancement prévu, illustrant les difficultés croissantes rencontrées lors de l’évaluation des modèles les plus avancés.
Cette série d’événements intervient alors que OpenAI affirme vouloir renforcer la collaboration avec des évaluateurs indépendants de sécurité, comme METR et Redwood Research, afin qu’ils puissent disposer d’un accès plus important aux systèmes et aux processus d’évaluation. Les modalités concrètes de cette indépendance restent toutefois à définir.
Pour l’instant, OpenAI présente donc les trois départs comme une conséquence de violations de ses règles internes de confidentialité. Rien ne permet publiquement d’établir si les chercheurs avaient auparavant signalé des problèmes de sécurité par les canaux internes de l’entreprise, ni si les informations partagées étaient liées à leurs éventuelles préoccupations sur la sécurité de l’IA.