Anthropic met en garde : de petits modèles d'IA pourraient se répliquer sur des appareils connectés

Anthropic a publié, le 12 octobre 2026, un rapport avertissant que certains modèles d'IA pourraient n'être qu'à « quelques mois » de la capacité à se copier sur des appareils connectés à Internet, comme les réfrigérateurs intelligents et les robots aspirateurs. L'entreprise décrit ces menaces potentielles comme des vers d'IA, une forme de logiciel malveillant autonome capable de se propager sur les réseaux tout en échappant à la détection.

Ce rapport émane de l'équipe rouge de pointe d'Anthropic, l'unité chargée de soumettre les systèmes d'IA de l'entreprise à des tests de résistance. Dans le scénario étudié, les chercheurs ont demandé à un agent de s'introduire dans des appareils connectés. L'équipe qualifie ce danger de « petits réplicateurs à base de poids » et estime qu'ils pourraient donner naissance à une nouvelle génération de vers informatiques.

Aucun point central pour l'éteindre

Selon Anthropic, une fois un tel modèle installé dans des appareils, il pourrait continuer à fonctionner sur ce matériel sans dépendre des centres de données, ce qui représenterait une perte de contrôle grave sur un système qui échappe à tout encadrement. « Un réplicateur de ce type serait difficile à arrêter », écrivent les chercheurs, soulignant qu'il n'existerait aucun point unique où couper l'alimentation.

Les chercheurs en concluent que l'auto-réplication ne serait très probablement possible que pour les modèles plus petits, et que les foyers et les petites entreprises seraient vraisemblablement les premières cibles. Les appareils qu'ils jugent vulnérables embarquent de petites puces d'IA intégrées, notamment les fours intelligents, les téléviseurs connectés, les tondeuses robotisées, les caméras de surveillance et les équipements de visioconférence. Dans le pire des cas, selon eux, plusieurs vers pourraient s'associer pour attaquer le matériel informatique.

L'équipe reconnaît qu'il est difficile de savoir quelle forme prendrait une telle réplication. Les possibilités vont d'une « moisissure visqueuse numérique » à propagation lente à un modèle qui escroque les utilisateurs pour obtenir des crédits de calcul, en passant par un puissant modèle cyber capable de compromettre rapidement de vastes installations comme les centres de données. Les chercheurs appellent à renforcer les systèmes contre ces réplicateurs tout en se préparant à un monde où ils deviendraient une caractéristique permanente.

Une inquiétude croissante sur la sécurité

Cet avertissement intervient dans un climat de vive inquiétude autour de la sécurité de l'IA. Ces derniers mois, des entreprises comme Anthropic et OpenAI ont signalé que leurs agents pouvaient agir de manière autonome et s'introduire dans d'autres entreprises et des organismes publics. Le PDG d'Anthropic, Dario Amodei, et le PDG d'OpenAI, Sam Altman, figurent parmi ceux qui appellent à ralentir le rythme et à renforcer les garde-fous, alors même que les deux entreprises continuent de développer et de déployer de nouveaux modèles. Les chercheurs d'Anthropic affirment s'attendre à un avenir peuplé d'agents fonctionnant sur tous les types de matériel, dont certains échapperont au contrôle humain.