Et si la meilleure façon de sécuriser une intelligence artificielle consistait à créer une IA encore plus dangereuse ? C’est le pari d’OpenAI avec GPT-Red, un modèle expérimental dont l’unique mission est de trouver les failles des autres IA avant que des cybercriminels ne le fassent. Suffisamment puissant pour découvrir des techniques d’attaque inédites, ce « hacker artificiel » restera pourtant enfermé dans les laboratoires de l’entreprise.
Selon OpenAI, GPT-Red représente son projet le plus ambitieux à ce jour dans le domaine de la sécurité des modèles d’intelligence artificielle. Une évolution qui illustre un changement profond : les IA ne servent plus seulement à générer du contenu ou à écrire du code, elles commencent désormais à protéger… d’autres IA.
Une IA entraînée à pirater des IA
GPT-Red est ce que les chercheurs appellent un red teamer automatisé. Traditionnellement, les équipes de cybersécurité testent la robustesse d’un système en cherchant volontairement à le compromettre afin d’identifier ses vulnérabilités. GPT-Red automatise entièrement cette approche.
Son terrain de prédilection est notamment le prompt injection, une technique qui consiste à dissimuler des instructions malveillantes dans un e-mail, une page web, un document ou toute autre source de données afin d’amener une IA à contourner ses propres règles de sécurité.
L’objectif est simple : découvrir ces failles avant qu’elles ne soient exploitées dans des produits accessibles au grand public.
Un entraînement inspiré… des jeux vidéo
Pour former GPT-Red, OpenAI ne s’est pas contenté de lui fournir des exemples d’attaques. Le modèle apprend en affrontant en permanence une équipe d’IA défensives dans un système de self-play, une méthode déjà utilisée pour entraîner des modèles capables de battre les meilleurs joueurs humains aux échecs ou au Go.
Le principe est le suivant :
- GPT-Red est récompensé lorsqu’il parvient à compromettre un modèle
- Les IA défensives sont récompensées lorsqu’elles bloquent l’attaque
À mesure que les défenses progressent, GPT-Red est contraint d’imaginer des stratégies toujours plus sophistiquées. OpenAI affirme avoir mobilisé l’un de ses plus importants volumes de calcul jamais consacrés à un projet lié à la sécurité de l’IA, soulignant que cette phase d’entraînement représente un investissement inédit pour ce type de recherche.
GPT-Red a découvert une technique d’attaque inconnue
Les résultats ont surpris jusqu’aux chercheurs d’OpenAI. Au cours de ses tests, GPT-Red aurait identifié une nouvelle catégorie d’attaque que l’entreprise baptise Fake Chain of Thought. Cette méthode consiste à insérer une fausse information directement dans le raisonnement interne d’un modèle afin qu’il considère cette donnée comme déjà vérifiée.
Chris Choquette-Choo, chercheur chez OpenAI, résume le principe avec un exemple particulièrement parlant : « C’est comme si je vous disais que 1 + 1 = 3, tout en affirmant que vous l’avez déjà vérifié. Le modèle accepte cette prémisse… puis répond naturellement que le résultat est 3 ».
Autrement dit, il ne s’agit plus de manipuler la réponse finale, mais de corrompre le processus de réflexion lui-même.
Même un distributeur automatique n’a pas résisté
Les expérimentations ne se sont pas limitées à des environnements virtuels. OpenAI a également confronté GPT-Red à Vendy, un agent IA chargé de gérer un véritable distributeur automatique installé dans ses bureaux. L’attaque a permis au modèle de modifier les prix des produits, réduire un article premium au tarif minimum de 50 centimes ou encore annuler la commande d’un utilisateur.
Les vulnérabilités découvertes ont depuis été signalées afin d’être corrigées.
Même si cette démonstration peut sembler anecdotique, elle illustre parfaitement les risques qui émergent avec les agents autonomes capables d’interagir directement avec des systèmes physiques.
Des résultats largement supérieurs aux équipes humaines
Les chiffres communiqués par OpenAI sont particulièrement révélateurs. Face à une ancienne version de GPT-5, plus de 90 % des attaques les plus avancées de GPT-Red ont réussi. En revanche, contre le nouveau GPT-5.6, entraîné précisément pour résister à ces offensives, ce taux tomberait à moins de 23 %.
Autre élément marquant : lors d’une réédition d’un test mené en 2025, GPT-Red aurait compromis 84 % des scénarios, contre seulement 13 % pour des équipes humaines spécialisées dans le red teaming.
Ces résultats suggèrent qu’une IA peut désormais détecter des vulnérabilités bien plus rapidement — et parfois plus efficacement — que des experts humains.
Trop dangereux pour être publié
Malgré ses performances, OpenAI ne prévoit pas de rendre GPT-Red accessible au public. L’entreprise estime que diffuser un modèle spécifiquement conçu pour contourner les protections d’autres IA présenterait un risque important de détournement. Toutefois, les chercheurs reconnaissent que GPT-Red est loin d’être infaillible.
Le modèle reste notamment moins performant lorsqu’il doit conduire des attaques longues impliquant plusieurs échanges successifs, ou lorsqu’il s’agit de cacher des instructions malveillantes à l’intérieur d’images.
Les experts humains continuent également d’identifier certaines vulnérabilités que GPT-Red ne détecte pas encore.
La sécurité de l’IA entre dans une nouvelle ère
Au-delà de GPT-Red lui-même, OpenAI met surtout en avant une nouvelle philosophie de développement. L’entreprise souhaite désormais utiliser les modèles actuels pour renforcer automatiquement les générations suivantes. Une logique déjà employée pour améliorer les performances des modèles, mais désormais appliquée à la cybersécurité.
Cette approche pourrait profondément transformer la manière dont les grands laboratoires développent leurs systèmes d’intelligence artificielle.
À mesure que les IA deviennent plus autonomes, capables d’utiliser des outils, d’exécuter des actions ou d’interagir avec des infrastructures critiques, leur sécurisation ne pourra probablement plus reposer uniquement sur des équipes humaines. Des modèles spécialisés comme GPT-Red pourraient devenir les premiers remparts face aux attaques de demain.
OpenAI prévoit de publier prochainement un document scientifique détaillant davantage son approche. Une chose est déjà certaine : dans la course à l’IA générative, la prochaine bataille ne portera plus uniquement sur les performances des modèles, mais aussi sur leur capacité à résister aux attaques les plus sophistiquées.
