L’IA devait simplifier le support client. Chez Meta, elle aurait surtout ouvert une faille embarrassante. Selon plusieurs médias, dont MacRumors, le chatbot d’assistance Meta AI a été exploité pour prendre le contrôle de comptes Instagram, y compris des profils très visibles, comme Sephora ou l’ancien compte White House de Barack Obama.
Une faille d’une simplicité inquiétante
Le mécanisme rapporté est aussi banal que préoccupant : des attaquants auraient demandé au bot de modifier l’adresse e-mail associée à un compte cible. Dans certains cas, l’IA aurait accepté l’opération sans vérification suffisante, permettant ensuite de déclencher une réinitialisation du mot de passe.
Des pirates auraient aussi utilisé des VPN pour simuler une localisation proche de celle du compte visé, contournant ainsi des contrôles reposant en partie sur les appareils et lieux familiers.
Des comptes très exposés touchés
Parmi les comptes cités figurent Sephora, Jane Manchun Wong, le Chief Master Sergeant de la Space Force et l’ancien compte Instagram de la Maison-Blanche sous Barack Obama. The Guardian rapporte que certains comptes piratés ont ensuite été proposés à la vente sur Telegram.
Meta indique avoir corrigé la vulnérabilité et travailler à sécuriser les comptes affectés.
L’IA de support ne peut pas devenir un raccourci vers les systèmes sensibles
L’incident souligne un risque majeur : confier à un agent IA des accès à des fonctions critiques sans garde-fous suffisamment stricts.
Réinitialiser un mot de passe, modifier une adresse e-mail ou valider une identité ne sont pas des tâches ordinaires. Ce sont des portes d’entrée vers la propriété numérique d’un utilisateur. Une IA peut fluidifier l’assistance, mais elle ne doit jamais devenir l’autorité finale lorsqu’il s’agit de modifier les fondations d’un compte.
Pour Meta, le problème est autant technique que symbolique. L’entreprise veut faire de l’IA un pilier de ses plateformes, mais cet épisode rappelle qu’un agent autonome mal encadré peut transformer le support client en surface d’attaque.
