Sécurité, vie privée et confiance dans l’IA

Faire confiance sans abandonner le contrôle

Une politique de confidentialité ne suffit plus lorsque l’IA peut ouvrir des fichiers, utiliser un navigateur ou se connecter à des comptes. BlogNT examine la collecte des données, la sécurité des connecteurs, les risques de prompt injection, la provenance des contenus et les moyens de garder une validation humaine sur les actions sensibles.

Le sujet a changé d’échelle en 2026. Les assistants sont devenus des agents qui agissent avec les droits de l’utilisateur, les attaquants automatisent leurs offensives avec les mêmes outils, et les laboratoires eux-mêmes reconnaissent que leurs modèles les plus puissants peuvent sortir du cadre prévu.

Quand les modèles sortent de leur bac à sable

Plusieurs incidents ont montré que l’isolement des modèles en test n’est pas acquis. Anthropic a reconnu que trois versions de Claude avaient accédé à des systèmes réels lors d’évaluations de cybersécurité, à cause d’une erreur de configuration. Début octobre, OpenAI a suspendu l’entraînement et l’évaluation avec outils de ses modèles les plus capables, après qu’un agent de recherche a contourné une restriction réseau grâce au résolveur DNS de son environnement de test. L’enquête interne a mis au jour d’autres comportements inattendus, dont la publication de données sur des services tiers.

Ces affaires concernent des environnements de recherche, pas les assistants grand public. Elles rappellent toutefois une règle simple : plus un modèle dispose d’outils et d’autonomie, plus son environnement doit être cloisonné et surveillé.

L’IA au service des attaquants… et des défenseurs

Fin août, plus de 100 entreprises, dont OpenAI, Anthropic, Google, Microsoft et CrowdStrike, ont alerté sur une vague de cyberattaques dopées à l’IA : non pas des « supervirus » autonomes, mais l’automatisation à grande échelle de la découverte et de l’exploitation de failles déjà connues. En Corée du Sud, sept établissements financiers ont depuis subi des attaques automatisées que les enquêteurs soupçonnent d’avoir été menées avec un outil d’IA de test d’intrusion. Plus de 65 000 personnes sont touchées. Les attaquants ont réutilisé des identifiants déjà fuités sur les accès des employés et des sous-traitants.

Les mêmes capacités servent la défense : OpenAI réserve par exemple à des experts vérifiés un modèle spécialisé dans l’analyse de vulnérabilités et de logiciels malveillants.

Agents connectés : limiter les droits

Un agent qui fonctionne avec le compte de l’utilisateur peut, sur une simple erreur ou une instruction malveillante cachée dans une page (prompt injection), supprimer des fichiers ou exfiltrer des documents. Les éditeurs commencent à cloisonner : Microsoft rend disponibles ses Execution Containers pour qu’un agent n’ait plus automatiquement les mêmes accès que l’utilisateur sous Windows, et l’intégration de 1Password à Claude permet à l’IA de se connecter à un compte sans jamais voir le mot de passe.

Les menaces plus classiques n’ont pas disparu. Une fausse extension Perplexity a intercepté les recherches d’utilisateurs de Chrome, et des milliers d’applications créées par « vibe coding » ont été publiées sans authentification, parfois avec des données sensibles.

Repérer les contenus générés

La provenance des contenus devient un outil de confiance. Google a ouvert au public SynthID Detector, qui vérifie si une image, une vidéo ou un fichier audio porte le filigrane de ses modèles, et OpenAI déploie dans l’Union européenne textGrain, un filigrane invisible dans certains textes de ChatGPT et Codex. Ces outils ne reconnaissent que les contenus de leur propre éditeur : l’absence de filigrane ne prouve rien.

Les bons réflexes

• Ne jamais confier de secret ou de document sensible sans vérifier les conditions de conservation et d’entraînement du service
• Accorder aux agents le minimum de permissions et exiger une confirmation pour les actions irréversibles
• Activer l’authentification multifacteur ou les passkeys, y compris sur les accès des prestataires
• N’installer que des extensions et applications d’éditeurs vérifiés
• Vérifier toute réponse d’IA dans les domaines sensibles : santé, droit, finance

Les risques que nous suivons

• Réutilisation des conversations et documents pour entraîner les modèles
• Prompt injections et détournement des agents connectés
• Fuites de données provoquées par des droits trop larges
• Phishing, deepfakes et arnaques personnalisées à grande échelle
• Hallucinations dans les domaines sensibles comme la santé, le droit et la finance