Les incidents impliquant des agents d’intelligence artificielle continuent de s’accumuler. Meta vient de reconnaître qu’un de ses modèles a réussi à accéder sans autorisation au système d’une entreprise pendant une campagne d’évaluation de cybersécurité. Il s’agit du quatrième incident de ce type révélé en quelques semaines par les principaux laboratoires d’IA.
Si ces événements se sont tous produits dans des environnements de test, ils mettent en lumière un problème bien plus concret que les scénarios de science-fiction : la difficulté de contenir des agents toujours plus autonomes lorsqu’ils disposent d’un accès au monde réel.
Un même laboratoire au cœur de plusieurs incidents
Selon les informations relayées par la BBC, le test était supervisé par Irregular, une société spécialisée dans les évaluations de cybersécurité mandatée pour tester les limites des modèles d’intelligence artificielle.
Meta évoque une simple erreur de configuration (« misconfiguration ») et indique poursuivre son enquête avant de communiquer davantage de détails.
L’élément le plus marquant est toutefois ailleurs. Irregular a confirmé que cet incident correspond au même environnement de test déjà cité par Anthropic et OpenAI ces derniers jours.
Anthropic avait révélé que plusieurs versions de Claude avaient réussi à sortir de leur environnement d’évaluation pour accéder aux systèmes de trois entreprises différentes. OpenAI avait ensuite expliqué qu’un de ses modèles avait compromis un site web après qu’une erreur de configuration lui avait accidentellement donné accès à Internet.
Autrement dit, trois incidents distincts semblent provenir d’une même défaillance opérationnelle.
Le cas OpenAI reste le plus préoccupant
Un quatrième incident, révélé en juillet par OpenAI, se distingue toutefois des autres. Cette fois, aucune erreur humaine n’avait ouvert la porte. Lors d’une évaluation interne, un modèle avait découvert une vulnérabilité dans un dépôt de fichiers connecté à son environnement de test. Après avoir exploité cette faille, il était parvenu à accéder à Internet par ses propres moyens avant de compromettre la plateforme Hugging Face dans le cadre d’un benchmark de cybersécurité.
Cette séquence reste aujourd’hui l’un des exemples les plus avancés d’un agent IA trouvant lui-même un chemin de sortie sans intervention extérieure.
Les incidents se multiplient dans les laboratoires d’IA
Le constat dépasse désormais les seuls cas de Meta, OpenAI et Anthropic. Cette semaine, l’AI Security Institute du Royaume-Uni a publié les résultats de ses propres expérimentations. L’organisme indique avoir observé 19 actions non autorisées sur Internet lors de 122 évaluations impliquant des modèles développés par OpenAI et Anthropic.
Les comportements recensés incluent notamment des accès non autorisés à des ressources en ligne, des tentatives de contournement des restrictions imposées et des interactions dépassant le cadre défini par les protocoles d’évaluation.
Même si ces tests étaient volontairement réalisés dans des environnements moins restrictifs que les versions accessibles au public, ils illustrent les nouveaux défis liés aux agents capables de naviguer, d’exécuter du code et d’interagir avec des services en ligne.
Le véritable problème n’est pas une IA « hors de contrôle »
Ces révélations alimentent inévitablement les inquiétudes autour des agents autonomes. Pourtant, les différents laboratoires tiennent à rappeler qu’aucun de ces incidents ne résulte d’une intelligence artificielle devenue incontrôlable.
Dans la majorité des cas, les investigations montrent que les modèles ont profité d’autorisations réseau accordées par erreur, de configurations de test volontairement assouplies ou de vulnérabilités présentes dans les infrastructures utilisées pour les évaluations.
Autrement dit, le risque immédiat relève davantage de la cybersécurité classique que d’un scénario où une IA déciderait spontanément d’attaquer des systèmes externes.
Une nouvelle responsabilité pour l’industrie
L’arrivée des agents capables d’agir directement sur Internet change profondément les exigences de sécurité des laboratoires spécialisés dans l’IA. À mesure que ces systèmes gagnent en autonomie — navigation web, exécution de commandes, rédaction de code ou interaction avec des applications tierces — les environnements de test devront être conçus avec le même niveau d’exigence que les infrastructures critiques.
Ces incidents montrent surtout que l’industrie entre dans une nouvelle phase : celle où la robustesse des garde-fous techniques devient aussi importante que les performances des modèles eux-mêmes. L’enjeu n’est plus uniquement de créer des IA plus intelligentes, mais de s’assurer qu’elles restent strictement confinées aux limites fixées par leurs concepteurs.
