Google, OpenAI et Anthropic veulent créer leur propre organisme de sécurité pour l’IA
- Un projet d'organisme commun baptisé Standards Authority for Frontier AI attendu d'ici fin 2026.
- Une initiative inspirée du secteur financier pour autoréguler les tests de sécurité des modèles.
- Une volonté de fixer des règles partagées pour les audits et le signalement d'incidents.
Google, OpenAI et Anthropic travaillent à la création d’un organisme commun chargé de définir des standards de sécurité pour les modèles d’IA les plus avancés. Selon The Information, le projet pourrait voir le jour d’ici la fin de 2026 ou au début de 2027, sans supervision directe du gouvernement américain.
Le nom provisoire envisagé serait Standards Authority for Frontier AI. Les trois entreprises chercheraient notamment à définir des règles communes pour les tests de sécurité avant la mise sur le marché des modèles, le signalement des incidents et la certification d’auditeurs externes.
Le projet s’inspire du fonctionnement de la FINRA, l’organisme américain d’autorégulation du secteur financier. Mais les modalités précises de son pouvoir d’enforcement restent encore inconnues. Il n’est notamment pas établi que le futur organisme pourrait sanctionner ses membres ou empêcher la commercialisation d’un modèle.
Cette initiative intervient après plusieurs semaines de discussions entre les trois laboratoires. OpenAI avait confirmé mi-septembre travailler avec Google DeepMind et Anthropic sur des questions de sécurité et de standards communs.
Une question de la gouvernance de l’IA
Le projet intervient également dans un contexte où la question de la gouvernance de l’IA prend une nouvelle dimension. OpenAI a récemment appelé les États-Unis à jouer un rôle moteur dans l’élaboration de standards techniques internationaux pour les modèles avancés, notamment concernant les systèmes capables d’améliorer leurs propres capacités.
L’idée d’une structure inspirée de la FINRA avait déjà été défendue cet été par Demis Hassabis, le patron de Google DeepMind. La proposition initiale envisageait toutefois un dispositif associant davantage les pouvoirs publics. La version actuellement discutée par les trois entreprises serait davantage fondée sur l’autorégulation du secteur.
Cette évolution soulève naturellement la question de la place des autorités publiques et des organismes indépendants. Des critiques ont déjà été formulées contre l’autorégulation des laboratoires d’IA, notamment au regard des intérêts commerciaux communs des entreprises qui participeraient à la définition des règles.
Le futur organisme ne réunirait par ailleurs pas, à ce stade, l’ensemble des grands laboratoires américains. Microsoft, Meta et xAI ne figurent pas parmi les membres annoncés du groupe de travail selon les informations actuellement disponibles.
Pour Google, OpenAI et Anthropic, l’objectif serait donc de créer un référentiel commun pour rendre les évaluations et les audits des modèles plus cohérents. Reste à déterminer qui définira les règles, qui pourra contrôler leur application et quelles conséquences seraient associées à leur non-respect.