Anthropic, l’entreprise à l’origine de Claude, est confrontée à un problème de cybersécurité qui souligne les risques auxquels sont exposés même les acteurs les plus avancés de l’intelligence artificielle. Selon une enquête du Washington Post, la start-up de cybersécurité Cathedral a découvert des vulnérabilités permettant à ses chercheurs d’accéder à des informations sensibles dans plusieurs systèmes internes d’Anthropic.
Pour y parvenir, les chercheurs se sont appuyés sur des agents d’intelligence artificielle capables d’identifier des potentiels points d’entrée en moins de douze heures.
L’attaque n’a pas nécessité de compromettre Claude ni les infrastructures centrales des modèles d’IA. Les chercheurs ont plutôt exploité des faiblesses dans des applications professionnelles tierces utilisées quotidiennement par les équipes d’Anthropic. La découverte a été réalisée dans le cadre du programme de tests de sécurité de l’entreprise, qui permet à des chercheurs externes de signaler des vulnérabilités.
Cet incident met en lumière une difficulté grandissante pour les entreprises spécialisées dans l’IA : protéger leurs modèles ne suffit pas si les outils utilisés pour gérer les ressources humaines, les ventes ou les opérations informatiques constituent des portes d’entrée vers des informations confidentielles.
Des données RH et des conversations internes accessibles
Une fois les failles identifiées, les chercheurs de Cathedral ont découvert plusieurs chemins d’accès à des données qu’une entreprise cherche normalement à protéger. Parmi les informations concernées figuraient des détails sur les salaires des employés, des offres d’emploi, des transcriptions de réunions et des conversations internes sur Slack au sujet des modèles d’IA avancés d’Anthropic.
L’entreprise a reconnu que les chercheurs avaient accédé à un nombre limité de systèmes internes liés aux ventes, aux ressources humaines et à l’informatique. Elle affirme toutefois que les conversations des clients avec Claude, les modèles d’IA eux-mêmes, leur code source et leurs paramètres internes — les model weights — n’ont pas été compromis.
Anthropic indique également que ses propres dispositifs de sécurité avaient détecté certaines activités suspectes avant la transmission officielle des résultats par Cathedral. L’entreprise a ensuite bloqué les accès concernés et désactivé les applications affectées, dans l’attente de corrections par leurs fournisseurs. Elle affirme n’avoir trouvé aucun élément indiquant que d’autres acteurs auraient exploité les mêmes vulnérabilités.
Les agents IA accélèrent la recherche de vulnérabilités
Le délai annoncé par Cathedral retient particulièrement l’attention. Selon les informations rapportées, ses chercheurs ont utilisé des agents IAL'IA agentique désigne les systèmes d'intelligence artificielle capables de planifier puis d'exécuter eux-mêmes des tâches complexes — réserver, coder, naviguer sur le Web, piloter des logiciels — plutôt que de se contenter de répondre à une question. Lire la fiche pour identifier des points d’entrée potentiels en moins de douze heures. Cette approche illustre la capacité de ces outils à accélérer certaines tâches de reconnaissance et d’analyse de systèmes informatiques.
Le cas est d’autant plus intéressant que les failles ne se situaient pas dans le cœur technologique d’Anthropic. Elles concernaient des logiciels tiers employés pour des fonctions courantes de gestion et d’administration. Une application qui ne semble pas directement liée à la recherche en IA peut ainsi devenir un point d’accès vers des données stratégiques si ses protections sont insuffisantes.
Il faut néanmoins distinguer l’accélération de la recherche de vulnérabilités de la preuve d’une attaque entièrement autonome. Les éléments rapportés décrivent une utilisation d’agents IA dans le cadre d’une recherche autorisée, et non une démonstration selon laquelle une IA aurait seule mené une intrusion malveillante complète.
Un enjeu qui dépasse Anthropic
La découverte intervient alors que les autorités s’inquiètent de plus en plus de la protection des recherches avancées en IA contre les services de renseignement étrangers et les cybercriminels. Les informations internes d’un laboratoire peuvent présenter un intérêt stratégique, même lorsque les modèles eux-mêmes et leur code ne sont pas accessibles.
Cathedral, fondée par d’anciens membres de l’initiative américaine DOGE, a obtenu des contrats fédéraux dans le domaine de la cybersécurité et atteint une valorisation annoncée de 1,4 milliard de dollars. Ses conclusions ont également attiré l’attention de responsables américains. Anthropic conteste toutefois la manière dont la start-up caractérise les risques potentiels pour la sécurité nationale.
Un autre point mérite d’être souligné : il s’agissait d’une recherche de sécurité autorisée, et non de la preuve d’une attaque réussie menée par des pirates informatiques malveillants. Anthropic estime par ailleurs que Cathedral n’a pas entièrement respecté les exigences de son programme de divulgation des vulnérabilités.
Cette divergence ne change pas le principal enseignement technique. À mesure que les agents IA deviennent plus efficaces pour repérer des failles logicielles, les applications professionnelles ordinaires peuvent représenter des cibles de plus en plus intéressantes. Pour les entreprises qui développent des modèles puissants, la cybersécurité doit donc couvrir non seulement les systèmes d’IA eux-mêmes, mais aussi l’ensemble des outils et services connectés à leur environnement interne.
