Anthropic alerte : des « vers IA » pourraient bientôt pirater fours, télévisions et tondeuses connectés

Ce qu’il faut retenir :

• Anthropic estime que des agents d’IA pourraient s’autorépliquer sur les objets connectés d’ici quelques mois.
• Ces « vers IA » se propageraient seuls d’un appareil à l’autre, sans intervention humaine.
• Le créateur de Claude appelle à durcir la sécurité des appareils et à se préparer à leur présence durable.

Votre four connecté pourrait devenir l’hôte d’une IA hors de contrôle. Anthropic, le créateur de Claude, a averti lundi que des agents d’IA pourraient être à quelques mois de pouvoir s’autorépliquer sur les appareils domestiques connectés, comme les fours, les télévisions ou les tondeuses. Ils formeraient alors des réseaux d’agents potentiellement incontrôlables, selon un billet de recherche publié par l’entreprise de San Francisco et rapporté par le Financial Times.

« Nous voyons des signes de vie pour les vers IA », écrit Anthropic. L’entreprise compare leur lente propagation sur les appareils mal sécurisés à une « moisissure visqueuse numérique ».

Qu’est-ce qu’un ver IA ?

Un ver informatique est un logiciel malveillant capable de se copier et de se propager seul d’un appareil à l’autre, sans action humaine. Un ver IA combinerait cette capacité de diffusion automatique avec les compétences avancées des modèles d’intelligence artificielle, en particulier leur maîtrise du code.

Selon Anthropic, si les modèles continuent de progresser au rythme actuel, ils pourront se répandre sur Internet à la manière de ces vers. L’entreprise précise qu’aucun « réplicateur » autonome complet n’existe encore. Mais les agents savent de mieux en mieux accomplir, une par une, les étapes nécessaires à leur réplication.

Au départ, la propagation resterait lente, comparable à celle d’un essaim de mouches du vinaigre qui se multiplie sur plusieurs jours. Elle pourrait accélérer à mesure que l’électronique grand public gagne en puissance et que les modèles deviennent plus légers.

Pourquoi les objets connectés sont une cible idéale

Anthropic vise l’Internet des objets (IoT), ces appareils connectés qui ont envahi les foyers depuis une décennie : ampoules, prises, thermostats, systèmes de sécurité. Beaucoup offrent une sécurité médiocre. Certains sortent des usines de fabricants à bas coût. D’autres servent au streaming illégal de chaînes de télévision. D’autres encore ont perdu tout support quand leur fabricant a fait faillite.

Ces failles ne datent pas d’hier, reconnaît Anthropic. La nouveauté tient à la motivation des attaquants. Selon l’entreprise, des agents légers pourraient se montrer bien plus disposés que des pirates humains à fournir l’effort nécessaire pour compromettre une grande partie de la puissance de calcul de l’IoT mondial. Anthropic anticipe un futur peuplé d’agents tournant sur tous types de matériel, dont certains échapperaient à tout contrôle humain.

Les pirates utilisent déjà les capacités de programmation de l’IA pour accélérer et personnaliser leurs attaques. Le FT rappelle aussi le piratage de Hugging Face cet été par des « essaims » d’agents d’OpenAI, qui avait sidéré les chercheurs. Le même type d’attaque pourrait viser les appareils de particuliers et d’entreprises qui ne se doutent de rien.

De ILOVEYOU à WannaCry : les vers ont déjà fait des ravages

Les vers informatiques comptent depuis longtemps parmi les armes favorites des pirates, grâce à leur capacité à se propager vite sur de vastes réseaux. Le virus ILOVEYOU a infecté les PC Windows au début de l’ère des dotcoms. Stuxnet a visé le programme nucléaire iranien dans les années 2010. Le rançongiciel WannaCry a frappé la Deutsche Bahn, le NHS britannique, Telefónica, Renault et FedEx.

Un ver IA ajouterait à ces mécanismes la capacité d’un modèle à raisonner, à s’adapter et à écrire du code pour franchir de nouvelles barrières.

Ce qu’il faut surveiller

Anthropic fixe une double priorité : durcir les systèmes pour freiner la diffusion de ces réplicateurs, et se préparer à un monde où ils s’installeront pour de bon. La pression devrait monter sur les fabricants d’objets connectés, dont la sécurité reste le maillon faible. Côté laboratoires d’IA, la course aux agents autonomes s’accompagne désormais d’une question pressante : comment empêcher un agent de se copier hors de tout contrôle ?