Collibra rachète trail ML pour automatiser la conformité des agents IA

La réglementation européenne sur l’intelligence artificielle fait émerger un nouveau marché : celui des outils capables d’automatiser la conformité des systèmes d’IA. Collibra vient de renforcer sa position sur ce terrain avec l’acquisition de trail ML, une startup allemande spécialisée dans la gouvernance et le contrôle automatisés des systèmes d’intelligence artificielle.

Fondée à Munich en 2023 par Anna Spitznagel, Nikolaus Pinger et Sven Hoelzel, trail ML développe des agents capables d’identifier les règles applicables à un système d’IA, de vérifier si les contrôles sont effectivement respectés et, surtout, d’empêcher un agent d’exécuter une action contraire à une politique définie. Le montant de l’acquisition n’a pas été communiqué.

Des agents pour automatiser la conformité

La technologie de trail ML repose sur une idée simple : automatiser une partie du travail nécessaire pour démontrer qu’un système d’IA respecte les règles qui lui sont applicables.

La plateforme prend notamment en charge l’EU AI Act, la norme ISO 42001 et le framework américain NIST. Les évaluations peuvent être relancées automatiquement lorsque les éléments utilisés comme preuves évoluent, plutôt que de dépendre uniquement d’un contrôle ponctuel.

Cette approche répond à une difficulté croissante pour les entreprises. Les systèmes d’IA évoluent rapidement : modèles, données, outils et capacités peuvent changer régulièrement. Une conformité vérifiée à un instant donné peut donc devenir obsolète après une simple modification du système.

Ne plus seulement contrôler, mais bloquer

La particularité de trail ML réside toutefois dans sa capacité à agir directement sur l’exécution. Sa plateforme dispose d’une couche de contrôle capable de bloquer une action d’un agent avant son exécution lorsqu’elle enfreint une politique définie.

La différence avec les outils traditionnels de gouvernance est importante. Il ne s’agit plus uniquement de produire un rapport signalant qu’un système présente un risque, mais de placer un mécanisme de contrôle directement sur le chemin d’exécution de l’agent.

Cette évolution prend tout son sens avec la montée en puissance des agents IAL'IA agentique désigne les systèmes d'intelligence artificielle capables de planifier puis d'exécuter eux-mêmes des tâches complexes — réserver, coder, naviguer sur le Web, piloter des logiciels — plutôt que de se contenter de répondre à une question. Lire la fiche. Un modèle qui produit une réponse incorrecte peut fournir une mauvaise information ; un agent connecté à des outils peut, lui, modifier un fichier, appeler une API, accéder à une ressource ou déclencher un processus.

L’AI Act accélère le marché de la conformité

L’acquisition intervient alors que les obligations européennes autour de l’intelligence artificielle se renforcent progressivement. Pour les entreprises qui développent ou déploient des systèmes d’IA, la conformité devient ainsi un sujet opérationnel qui nécessite de documenter les systèmes, d’évaluer leurs risques et de démontrer que les contrôles restent efficaces dans le temps.

Cette évolution crée mécaniquement une demande pour des outils capables d’automatiser une partie de ces vérifications. L’enjeu n’est plus seulement de savoir si une entreprise dispose d’une politique d’utilisation de l’IA, mais de pouvoir prouver en continu que les systèmes respectent effectivement cette politique.

Collibra veut étendre sa plateforme de gouvernance

Pour Collibra, l’acquisition de trail ML permet d’ajouter une dimension opérationnelle à son offre de gouvernance des données et de l’IA. L’entreprise revendique plus de 700 clients, dont 78 entreprises du Fortune 500.

L’intégration de la technologie de trail ML doit permettre à Collibra de couvrir davantage de la chaîne, depuis l’identification des obligations jusqu’au contrôle de leur application en production. Le fonctionnement par agents doit également permettre de déclencher de nouvelles évaluations lorsque les informations utilisées comme preuves évoluent.

Le contrôle des actions devient le nouvel enjeu

L’arrivée des agents autonomes change profondément la question de la gouvernance de l’IA. Lorsque les systèmes sont capables d’interagir directement avec des logiciels et des services externes, contrôler uniquement le modèle ne suffit plus : il faut également contrôler ce que l’agent est autorisé à faire.

C’est précisément sur ce terrain que trail ML cherche à se positionner. Son système peut déterminer si une action envisagée respecte une politique avant de laisser l’agent l’exécuter.

L’acquisition par Collibra illustre ainsi une évolution du marché de la gouvernance de l’IA : la conformité pourrait progressivement passer d’une logique essentiellement documentaire à une conformité continue et opérationnelle, capable d’intervenir directement lorsqu’un système tente de réaliser une action qui n’est pas autorisée.