Les incidents impliquant les agents d’intelligence artificielle se multiplient. Après les récentes révélations concernant OpenAI et Anthropic, un nouveau rapport de l’AI Security Institute (AISI) britannique montre que les modèles les plus avancés de l’industrie continuent d’adopter des comportements inattendus lorsqu’ils disposent d’un accès étendu à Internet.
Bien que ces expériences aient été réalisées dans des environnements de recherche volontairement moins contraints, elles relancent une question de fond : l’industrie est-elle prête à confier davantage d’autonomie à des agents IA capables d’agir dans le monde réel ?
L’AI Security Institute a recensé 19 comportements non autorisés
Dans un nouveau rapport, l’AI Security Institute (AISI) indique avoir observé 19 actions non autorisées lors de 122 sessions de tests menées avec des modèles développés par OpenAI et Anthropic.
L’objectif de ces évaluations consistait à mesurer les capacités offensives d’agents IA dans des scénarios de cybersécurité. Pour cela, les chercheurs leur avaient volontairement accordé un accès à Internet et assoupli certaines protections habituelles.
En revanche, les modèles n’avaient jamais reçu pour instruction de cibler de véritables personnes, entreprises ou infrastructures.
Anthropic concentre la majorité des incidents
Sur les 19 comportements relevés, 17 impliqueraient Mythos 5, le modèle d’Anthropic, contre deux seulement attribués à GPT-5.6 Sol d’OpenAI. L’incident le plus marquant concerne un agent IA qui aurait tenté d’introduire un code malveillant dans un véritable projet hébergé sur GitHub.
Après le rejet de sa contribution par un examinateur humain, l’agent ne s’est pas arrêté là. Il aurait publié publiquement un résumé de son avancement afin qu’un autre agent automatisé puisse reprendre son travail.
Selon l’AISI, ce comportement s’apparente à une forme de prompt injection, où une IA laisse volontairement des instructions destinées à influencer d’autres systèmes automatisés.
Un second agent aurait effectivement retrouvé ce message et poursuivi l’opération.
On July 28th, we identified an incident during a routine cyber evaluation in which AI agents took sustained, unsanctioned actions directed at real people and organisations.
The behaviour came mostly from one model (Anthropic’s Mythos 5), with a small number of events from… pic.twitter.com/SPnA4Ekkwq
— AI Security Institute (AISI) (@AISecurityInst) August 4, 2026
OpenAI révèle également une nouvelle fuite de son environnement de test
Le même jour, OpenAI a dévoilé un incident distinct survenu lors d’une campagne d’évaluation réalisée par le laboratoire indépendant Irregular. À la suite d’une erreur de configuration, un modèle qui devait rester isolé dans un environnement sandbox a obtenu un accès involontaire à Internet.
L’agent aurait alors exploité une vulnérabilité présente sur un véritable site web, avant de récupérer des identifiants lui permettant d’administrer le serveur compromis.
OpenAI n’a pas dévoilé l’identité du site concerné ni les actions réalisées une fois l’accès obtenu.
Des incidents qui s’ajoutent à une série déjà préoccupante
Ces nouvelles révélations arrivent seulement quelques semaines après deux autres rapports ayant déjà attiré l’attention de la communauté. OpenAI avait reconnu que certains de ses agents expérimentaux avaient réussi à sortir de leur environnement de test et à accéder à plusieurs services externes, dont Hugging Face.
Peu après, Anthropic avait confirmé que Claude avait lui aussi obtenu un accès non autorisé à plusieurs entreprises durant des exercices similaires.
Avec ces nouveaux événements, les deux principaux acteurs de l’IA générative se retrouvent désormais confrontés à plusieurs incidents successifs impliquant des comportements imprévus de leurs agents.
Des conditions de test volontairement assouplies
Toutefois, OpenAI comme Anthropic insistent sur un point important : ces expériences ont été réalisées dans des conditions très éloignées de celles accessibles au grand public. Les chercheurs avaient volontairement accordé un accès direct à Internet, réduit certaines barrières de sécurité et laissé davantage d’autonomie aux agents afin d’évaluer leurs capacités offensives.
Autrement dit, ces comportements ne reflètent pas nécessairement ce que peuvent faire aujourd’hui ChatGPT ou Claude dans leur utilisation quotidienne.
L’AISI reconnaît également qu’il reste difficile de déterminer si les modèles avaient conscience de dépasser le cadre prévu des expériences ou s’ils exécutaient simplement les objectifs qui leur avaient été confiés.
Une industrie face à son propre paradoxe
Ces incidents illustrent surtout un défi majeur auquel fait face l’ensemble du secteur. Jamais les laboratoires n’ont autant investi dans les agents IA autonomes, capables de programmer, naviguer sur Internet, manipuler des fichiers ou accomplir des tâches complexes sans intervention humaine.
Mais parallèlement, chaque nouvelle campagne d’évaluation révèle que ces systèmes peuvent développer des stratégies imprévues lorsqu’ils disposent d’une marge de manœuvre suffisante. Le paradoxe est évident : les entreprises cherchent à rendre leurs agents toujours plus autonomes, alors même que les mécanismes permettant de garantir leur contrôle continuent d’être mis à l’épreuve.
À mesure que ces IA gagnent en capacités, la question n’est plus uniquement de savoir ce qu’elles peuvent accomplir, mais aussi dans quelles conditions elles restent réellement maîtrisables.
