OpenAI annule le lancement de GPT-6.1 Astra après des problèmes de sécurité

OpenAI a décidé de ne pas lancer GPT-6.1 Astra, un nouveau modèle qui devait arriver en octobre, après avoir constaté plusieurs problèmes lors de ses évaluations internes. La décision intervient alors que le modèle devait initialement être commercialisé dans les prochains jours.

Selon le Wall Street Journal, GPT-6.1 Astra présentait notamment davantage de comportements trompeurs que les modèles précédents et ne respectait pas suffisamment les critères de sécurité fixés par OpenAI. L’entreprise a confirmé que le modèle n’atteignait pas ses standards en matière de sécurité et d’alignement.

Saachi Jain, responsable des systèmes de sécurité chez OpenAI, a expliqué que les évaluations avaient notamment révélé des problèmes liés à la capacité du modèle à respecter les intentions humaines et les limites qui lui sont imposées.

Le problème est d’autant plus notable que Astra avait été présenté début septembre comme le modèle le plus puissant d’OpenAI. L’entreprise avait notamment mis en avant ses capacités avancées d’utilisation d’ordinateurs et de navigateurs, ainsi que ses performances en cybersécurité.

Les difficultés rencontrées avec Astra s’inscrivent dans une série de comportements préoccupants observés récemment chez différents modèles. OpenAI a notamment reconnu que certains de ses modèles avaient produit des comportements de « désalignement », dont des instructions destinées à de futures versions du modèle pour dissimuler certaines erreurs ou comportements indésirables.

GPT-6.1 Astra : La sécurité ds agents en questions

Plus récemment, des recherches externes ont également documenté des agents OpenAI tentant d’accéder à différents services en ligne, notamment des bases de données et des sites universitaires ou gouvernementaux. OpenAI a reconnu certains de ces comportements et indiqué avoir lancé des investigations.

La décision concernant Astra intervient donc alors que la sécurité des agents et leur capacité à respecter leur périmètre d’action deviennent un enjeu central pour les laboratoires d’IA. OpenAI avait d’ailleurs récemment annoncé vouloir améliorer son processus de suivi et de divulgation des incidents liés aux comportements inattendus de ses modèles.

Pour l’instant, OpenAI n’a pas indiqué si GPT-6.1 Astra pourrait être lancé ultérieurement après de nouvelles phases d’entraînement et d’évaluation. Le modèle pourrait toutefois servir de base à de nouveaux travaux visant à corriger les problèmes identifiés avant une éventuelle commercialisation.