Hugging Face veut auditer les laboratoires d’IA, mais son indépendance pose question
- L'annonce par Hugging Face de l'Open Alignment Initiative pour auditer les intelligences artificielles de pointe.
- Une volonté partagée par d'autres acteurs majeurs comme Anthropic et OpenAI d'ouvrir leurs portes à des évaluateurs tiers.
- Le défi majeur des conflits d'intérêts, renforcé par le rachat de Hugging Face par Nvidia.
Hugging Face veut devenir l’un des acteurs chargés d’évaluer de l’extérieur les laboratoires développant les modèles d’IA les plus avancés. Son cofondateur Clément Delangue a annoncé l’Open Alignment Initiative, peu après que Dario Amodei a proposé d’ouvrir durablement Anthropic à des évaluateurs tiers.
L’objectif serait de permettre à des experts indépendants d’observer les modèles, d’analyser certains incidents et de vérifier les mesures de sécurité mises en place pendant leur développement. OpenAI a également indiqué vouloir aller dans cette direction.
La principale difficulté reste toutefois de définir ce qu’est réellement un évaluateur indépendant.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
La question est particulièrement sensible pour Hugging Face. Nvidia a récemment annoncé son acquisition de l’entreprise pour 12,93 milliards de dollars, tandis que le fabricant de puces pourrait également investir plusieurs milliards dans Anthropic. Hugging Face pourrait donc se retrouver à auditer une entreprise dans laquelle sa maison mère possède elle-même des intérêts financiers.
Cela ne remet pas nécessairement en cause la qualité technique de ses évaluations, mais souligne la nécessité de règles claires concernant les conflits d’intérêts, le financement des audits et la liberté de publication des résultats.
Plusieurs responsables du secteur défendent désormais l’idée d’une supervision plus large, associant chercheurs, universitaires, gouvernements et organisations provenant de différents pays, plutôt qu’un système dans lequel les grands laboratoires choisiraient eux-mêmes leurs évaluateurs.
L’industrie semble donc converger vers davantage d’évaluations externes. Mais la vraie question reste entière : qui choisira les auditeurs, qui les financera et pourront-ils publier librement des conclusions défavorables aux entreprises qu’ils contrôlent ?