Le 12 octobre, l'équipe Frontier Red Team de l'éditeur Anthropic a publié une étude signée par William Zhou et Daniel Freeman. Consacrée à la réplication autonome des modèles d'IA, cette recherche théorise la possibilité d'adapter et de propager des vers informatiques autonomes sans intervention humaine. Désignée sous l'acronyme ARA (Autonomous Replication and Adaptation), cette capacité permettrait à une IA de naviguer seule, de s'installer et de s'exécuter sur du matériel inconnu.
Contrairement à un logiciel malveillant classique, un tel ver piloté par IA ne possède aucun point de contrôle central qu'il serait possible de couper pour stopper l'infection. Sa progression resterait néanmoins progressive, la recherche estimant qu'il faudrait plusieurs jours pour que le nombre de copies du modèle double au sein d'un réseau.
Des puces réseau aux box Android TV bon marché
Des travaux antérieurs avaient déjà montré que des agents autonomes pouvaient analyser un réseau, exploiter des vulnérabilités puis copier les poids d'un modèle d'IA vers d'autres machines hébergées sur un même cluster de GPU. L'expérimentation menée par Anthropic se concentre sur l'étape suivante : la capacité d'un modèle à exécuter son code sur des appareils grand public aux architectures variées.
Les tests d'évaluation menés par les chercheurs ont mobilisé plusieurs modèles open weight (à poids ouverts) :
- Qwen3.5-9B (Alibaba) : ce modèle de 9 milliards de paramètres est parvenu à installer et exécuter seul un modèle d'IA sur 8 des 9 types de matériel testés.
- Gemma4-26B-A4B (Google) : l'équipe a fait tourner ce modèle réparti sur un cluster de 15 box Android TV, achetées au prix unitaire d'environ 55 dollars (soit environ 50 euros). L'ensemble a généré une vitesse de traitement de 0,39 jeton par seconde, soit un jeton toutes les deux secondes et demi.
- GLM-5.2 (Z.ai, ex-Zhipu AI) : testé sur un réseau isolé de 8 machines Android virtuelles, le modèle a réussi à propager le code d'une machine à l'autre lors de 4 essais sur 5.
Les chercheurs précisent que lors du test avec les 15 box Android TV, ces dernières exécutaient le modèle sans s'infecter entre elles, la propagation ayant été évaluée séparément.
Un seuil d'autonomie prévu pour la fin 2026
À l'heure actuelle, les modèles de 30 milliards de paramètres ou moins sont capables de réaliser indépendamment plusieurs étapes du processus de réplication, mais ils échouent encore à enchaîner l'intégralité de la chaîne d'infection sans commettre d'erreurs. Dans des scénarios simplifiés, GLM-5.2 et d'autres modèles plus massifs réussissent le processus de bout en bout. Cependant, ces très gros modèles nécessitent la puissance de calcul d'un centre de données dédié pour fonctionner.
Le risque principal concerne donc les petits modèles, capables de tourner directement sur du matériel peu coûteux. Selon la trajectoire estimée par Anthropic, si le rythme d'apprentissage des petits modèles se maintient, ils pourraient atteindre le niveau de capacité requis d'ici fin 2026. Les auteurs soulignent toutefois que cette projection s'appuie sur un indice général de capacités et demeure approximative.
Pour illustrer le potentiel d'un tel réseau malveillant, l'étude prend l'exemple du botnet Kimwolf, qui a infecté plus de 2 millions d'appareils, principalement des box Android TV. D'après les calculs de l'équipe, un parc d'appareils compromis de cette taille permettrait de faire tourner environ 133 000 copies autonomes du modèle d'IA.
La vulnérabilité des box Android AOSP et des smart TV
Le marché du matériel multimédia connecté présente déjà des failles structurelles importantes. Le 2 novembre, Google a annoncé le démantèlement du botnet XCPE, qui regroupait plus de 1,3 million de box Android TV. Selon l'entreprise, le constructeur chinois Videostrong avait directement intégré une porte dérobée au sein du firmware de ses appareils, distribués majoritairement sous la marque Mecool. Cette porte dérobée présentait la particularité de se réinstaller automatiquement depuis une partition système protégée en cas de suppression.
Google a par la suite interdit à Videostrong de fabriquer des appareils certifiés. En neutralisant les serveurs de commande de plus d'une dizaine de familles de logiciels malveillants, l'entreprise estime avoir coupé l'accès à au moins 10 millions d'appareils compromis.
Les équipements les plus à risque fonctionnent sous AOSP (Android Open Source Project), la version libre du système d'exploitation, dépourvue des contrôles de sécurité appliqués aux appareils certifiés Google TV (comme ceux commercialisés par Sony, TCL, Philips, Sharp, Strong, Xiaomi ou Google). La certification n'offre pas une protection absolue : certaines box infectées par XCPE bénéficiaient de la certification de Google, le code malveillant ne se chargeant qu'après le premier démarrage utilisateur.
Les systèmes fermés concurrents sont également ciblés par des détournements de trafic :
- webOS (LG) : une étude de la société Spur menée en juin sur 6 038 applications a révélé que 42,5 % des logiciels analysés intégraient un kit de proxy résidentiel.
- Tizen (Samsung) : selon la même étude, 26,9 % des applications analysées sur cette plateforme contenaient un module similaire, transformant le téléviseur en relais réseau.
- tvOS (Apple) : la plateforme restreint l'installation d'applications au seul App Store, interdisant le chargement latéral (sideloading).
Suite aux découvertes de Spur, LG a annoncé la suspension des applications conservant ces kits proxy, tandis que Samsung a mis à jour le règlement de sa boutique pour les interdire.
Notre lecture
Cette démonstration d'Anthropic met en lumière les risques réels posés par la prolifération de petits modèles d'IA open source. L'absence de points de contrôle centraux sur des vers informatiques autonomes compliquera fortement la réponse aux incidents de sécurité. La vulnérabilité systémique des appareils connectés bas de gamme sous Android AOSP constitue le terrain idéal pour ce type de menace, où des centaines de milliers de boîtiers multimédias bon marché pourraient être détournés pour former des infrastructures de calcul décentralisées et incontrôlables.