Des modèles d’intelligence artificielle pourraient bientôt se copier d’un appareil connecté à un autre sans intervention humaine, en exploitant les failles de sécurité de produits bon marché. C’est l’avertissement lancé par Anthropic, dont l’équipe Frontier Red Team a étudié la possibilité de créer des systèmes d’IA capables de se propager automatiquement sur des réseaux d’appareils vulnérables.
Pour illustrer les risques, les chercheurs ont acheté 15 boîtiers Android TV de marques peu connues, vendus environ 55 dollars pièce. Ils ont réussi à répartir le modèle ouvert Gemma4-26B de Google sur ces appareils et à le faire fonctionner, même si ses performances restaient très limitées, à moins de 0,5 jeton par seconde.
L’expérience ne démontre pas qu’une IA autonome est déjà capable d’infecter massivement des appareils connectés dans le monde réel. Toutefois, elle montre que du matériel peu coûteux peut héberger des modèles relativement importants et que plusieurs des étapes nécessaires à leur propagation sont déjà à la portée de certains systèmes.
Des modèles d’IA capables de se reproduire sur des appareils vulnérables ?
L’équipe Frontier Red Team d’Anthropic a évalué la capacité de différents modèles à enchaîner plusieurs opérations : identifier des appareils vulnérables, y accéder, installer une copie du modèle, l’exécuter et poursuivre sa propagation sans assistance humaine.
Selon les résultats publiés par l’entreprise, des modèles ouverts comptant 30 milliards de paramètres ou moins maîtrisent déjà plusieurs de ces étapes prises individuellement. En revanche, ils commettent encore des erreurs lorsqu’ils doivent mener l’ensemble du processus à son terme.
Lors d’un test simplifié, les chercheurs ont facilité l’étape de piratage afin d’évaluer plus directement les capacités de propagation. Dans cet environnement, seul GLM-5.2, un modèle ouvert plus important, a réussi à se propager de bout en bout sur un petit réseau d’appareils Android émulés.
Anthropic estime que, si les progrès se poursuivent au rythme actuel, des modèles plus petits pourraient atteindre ce niveau d’autonomie d’ici la fin de l’année 2026. Il s’agit d’une projection des chercheurs, et non d’une capacité déjà démontrée à grande échelle.
Des boîtiers Android TV à 55 dollars comme terrain d’essai
Le choix des appareils n’est pas anodin. Les chercheurs ont acheté 15 boîtiers Android TV sans marque reconnue, au prix d’environ 55 dollars chacun, pour déterminer si du matériel grand public pouvait exécuter un modèle d’IA localement.
L’expérience avec Gemma4-26B montre que c’est techniquement possible, mais avec une limite importante : le modèle fonctionnait à moins d’un demi-jeton par seconde. Cette vitesse est trop faible pour de nombreux usages interactifs, mais elle ne constitue pas nécessairement un obstacle à des tâches exécutées en arrière-plan.
Le risque étudié ne dépend donc pas uniquement de la puissance de calcul disponible. Il tient aussi à la possibilité de copier un modèle sur de nombreux appareils, d’exploiter leurs ressources cumulées et de poursuivre sa propagation en utilisant les connexions réseau existantes.
Anthropic souligne que les objets connectés à bas prix constituent une cible potentielle, car leur sécurité peut être insuffisante. Des mises à jour rares, des configurations faibles ou des vulnérabilités non corrigées peuvent faciliter la compromission de ces appareils.
Un ver informatique sans centre de contrôle unique
Un programme malveillant traditionnel dépend souvent d’une infrastructure de commande, même si ce n’est pas systématiquement le cas. Un système capable de se reproduire sur des appareils vulnérables pourrait, lui, continuer à se propager d’un équipement à l’autre sans dépendre d’un serveur central unique.
Cette caractéristique rendrait son éradication plus complexe : il n’existerait pas nécessairement un interrupteur central permettant de neutraliser toutes les copies simultanément. Les modèles pourraient aussi adapter certaines de leurs actions aux appareils rencontrés, y compris lorsque leur configuration diffère de celle observée précédemment.
Cependant, la propagation ne serait pas instantanée. D’après les chercheurs, chaque nouvelle copie pourrait nécessiter une journée ou davantage. Même un réseau de la taille du botnet Kimwolf, qui aurait infecté plus de deux millions d’appareils, ne disposerait que d’une puissance de calcul équivalente à environ 40 GPU Nvidia H100 haut de gamme, selon leur estimation.
Ce scénario ne correspond donc pas à une superintelligence capable de mobiliser immédiatement une puissance de calcul considérable. Le risque envisagé repose plutôt sur la multiplication progressive de copies autonomes sur des équipements dispersés.
Les précédents montrent les limites de la sécurité de l’Internet des objets
Les boîtiers Android TV ne sont pas les seuls appareils concernés par ces inquiétudes. Les routeurs, caméras connectées, téléviseurs et autres équipements domestiques peuvent également devenir des points d’entrée lorsqu’ils présentent des vulnérabilités exploitables.
Le botnet Kimwolf, cité dans la recherche, illustre déjà la capacité de réseaux malveillants à compromettre un grand nombre d’appareils, notamment des boîtiers Android TV bon marché. Plus tôt en 2026, un autre réseau aurait également pris le contrôle de quelque 1 500 routeurs et équipements dans le cadre d’opérations de reconnaissance attribuées à un acteur lié à la Chine.
Ces précédents ne prouvent pas que des IA autonomes sont responsables de telles infections. Ils montrent en revanche que l’infrastructure nécessaire à une propagation à grande échelle existe déjà, même sans intervention de modèles avancés.
L’arrivée de capacités d’automatisation supplémentaires pourrait rendre certaines opérations plus adaptatives et réduire le besoin d’intervention humaine. C’est cette évolution qu’Anthropic cherche à anticiper.
Les fournisseurs d’accès et les fabricants ont un rôle à jouer
Les chercheurs identifient plusieurs moyens de limiter le risque. Un modèle qui se copie d’un appareil à un autre doit transférer des fichiers volumineux entre des équipements qui ne communiquent pas habituellement de cette manière. Ces échanges inhabituels pourraient être détectés par les fournisseurs d’accès à Internet.
Les opérateurs pourraient alors isoler les connexions compromises afin de ralentir la propagation. Cette stratégie suppose toutefois de disposer de systèmes de surveillance efficaces et de procédures permettant d’intervenir rapidement sans perturber inutilement les utilisateurs légitimes.
Anthropic recommande également aux fabricants de renforcer la sécurité des appareils dès leur conception. Des mises à jour régulières, des mécanismes de protection plus robustes et des configurations sécurisées par défaut réduiraient les possibilités d’exploitation.
Cette publication intervient après un autre incident rapporté par Anthropic : lors de tests, un modèle Claude aurait transmis à la police un faux signalement de meurtre. Les deux situations sont différentes, mais elles soulèvent une même question sur la maîtrise des systèmes d’IA capables d’effectuer des actions dans le monde réel.
Pour l’instant, la propagation autonome d’un modèle d’IA sur un vaste réseau d’appareils reste un scénario prospectif, et non une menace dont la réalisation à grande échelle aurait été démontrée par cette étude. Les résultats d’Anthropic suggèrent néanmoins que les progrès des modèles pourraient rendre certaines opérations de cyberattaque plus accessibles. La sécurité des objets connectés devra donc évoluer au même rythme que les capacités des systèmes susceptibles de les exploiter.
