Ce qu’il faut retenir :
- L’entreprise documente cinq cas d’utilisateurs ayant contourné ses contrôles et masqué l’objet de leurs travaux.
- Elle reconnaît ne pas pouvoir établir l’intention malveillante de ces chercheurs.
- Le rapport ne nomme ni les institutions concernées ni les pays où ces faits se sont produits.
Anthropic affirme avoir interrompu cette année plusieurs tentatives de chercheurs visant à utiliser ses modèles pour des travaux susceptibles de contribuer au développement d’armes biologiques. L’entreprise publie cinq exemples dans un rapport consacré aux usages malveillants de sa technologie.
“Nous espérons susciter une conversation sur les risques biologiques émergents”, écrit-elle, au sein de son secteur comme avec les gouvernements.
Ce que décrit le rapport
Les cas documentés portent sur des utilisateurs ayant contourné les contrôles en place et cherché à masquer l’objet de leurs recherches pour échapper aux garde-fous.
Certains se trouvaient dans des pays auxquels l’entreprise interdit l’accès à ses modèles, une liste qui comprend la Russie, la Chine et l’Iran.
L’exemple le plus détaillé concerne un chercheur situé dans une région non prise en charge, qui a passé plusieurs semaines à planifier des expériences portant sur la grippe aviaire. Les filtres de sécurité ont, selon l’entreprise, cantonné ces échanges à ses modèles les moins performants.
Les comptes mentionnés dans ce rapport ont été fermés.
La réserve posée par l’entreprise elle-même
Anthropic accompagne ces exemples d’une précision qui mérite d’être reprise telle quelle : elle ne peut pas établir que ces chercheurs avaient l’intention de nuire.
L’argument tient à la nature du domaine. Les connaissances nécessaires à la conception d’une arme biologique sont les mêmes que celles requises pour mettre au point un vaccin. Cette ambivalence, que les spécialistes appellent le double usage, rend l’intention indissociable du contexte, et ce contexte échappe par construction à un système automatisé.
Ce que le rapport ne dit pas
Trois éléments manquent, et leur absence limite la portée de l’exercice.
L’entreprise ne nomme ni les institutions de recherche concernées, ni les pays où ces faits se sont produits.
Elle n’indique pas davantage comment ces comportements ont été détectés, ni combien de temps s’est écoulé entre le début de ces échanges et leur interruption. Dans le cas de la grippe aviaire, plusieurs semaines de planification ont précédé l’intervention.
Rien ne permet enfin de savoir si ces cinq cas constituent l’ensemble des tentatives repérées ou une sélection.
L’écart entre concevoir et fabriquer
Un garde-fou plus solide que tous les filtres logiciels mérite d’être rappelé.
Concevoir une arme biologique sur le papier et la produire sont deux exercices distincts. Le second suppose des installations, des matériaux réglementés, des compétences pratiques et des moyens que la documentation ne fournit pas.
Cette distance ne supprime pas le risque. Elle explique en revanche pourquoi les spécialistes de la biosécurité s’inquiètent davantage de la réduction des barrières à l’entrée que d’un scénario où un modèle livrerait une arme prête à l'emploi.
Un consensus se dessine néanmoins parmi les dirigeants du secteur et les chercheurs en biosécurité : l’usage de ces technologies en biologie appelle un encadrement à mesure que les modèles progressent. Les préoccupations portent sur les groupes terroristes, les acteurs étatiques et les individus isolés.
Les autres abus documentés
Le rapport dépasse le seul domaine biologique. Il décrit un éventail allant d’un réseau de fausses applications de rencontre conçues pour escroquer leurs utilisateurs, jusqu’à des systèmes de surveillance destinés à identifier et suivre des dissidents.
L’accusation contre sept laboratoires chinois
Le document apporte par ailleurs des éléments nouveaux sur une affirmation déjà formulée par l’entreprise. Sept laboratoires établis en Chine, dont Moonshot et DeepSeek, auraient cherché à répliquer sa technologie par distillation.
Cette technique consiste à interroger massivement un modèle pour entraîner un système concurrent sur ses réponses, ce qui revient à en extraire les capacités sans en supporter le coût de développement.
L’entreprise dit avoir détecté des méthodes de plus en plus sophistiquées pour contourner ses défenses et récolter les capacités des modèles américains de pointe.
Le contexte de cette accusation mérite d’être posé. Un débat traverse actuellement Washington sur l’opportunité de sanctionner les développeurs chinois de modèles ouverts, accusés d’avoir repris des technologies américaines. Nvidia défend la position inverse et milite pour le soutien aux modèles ouverts, au point d’avoir racheté la plateforme Hugging Face 13 milliards de dollars cette semaine.
Une publication dans un contexte tendu
Le calendrier de ce rapport n’échappera à personne.
Il paraît quelques jours après la démission de Jacob Coxon, chercheur passé par OpenAI puis Anthropic, qui accusait les deux laboratoires de jouer avec nos vies. Le responsable de la science de l’alignement de l’entreprise lui avait publiquement donné raison, en évaluant à plus de 10 % le risque que l’intelligence artificielle tue tous les humains dans la décennie.
OpenAI a de son côté classé son modèle Astra au niveau critique en matière de capacités cyber la semaine dernière, avant d’engager un milliard de dollars pour subventionner l’accès à ses outils défensifs.
L’entreprise prépare enfin une introduction en Bourse susceptible de la valoriser 2 000 milliards de dollars.
Et maintenant ?
Deux lectures de cette publication coexistent, et elles ne s’excluent pas.
Documenter publiquement des tentatives d’abus constitue une pratique de transparence que peu d’acteurs adoptent, et qui fournit aux régulateurs une matière dont ils manquent.
Le même document sert simultanément trois intérêts de son auteur : démontrer l’efficacité de ses garde-fous avant une cotation, appuyer une position politique contre des concurrents étrangers, et justifier un modèle fermé face aux partisans des poids ouverts.
Le point à surveiller reste la vérification. Aucun élément de ce rapport ne peut être contrôlé par un tiers, ce qui est précisément la limite que l’ouverture des modèles permettrait de lever.
Cet article vous a plu ? Recevez les prochains par email
Rejoignez +40 000 abonnés. L'essentiel du marché crypto dans votre boîte mail, tous les 2 jours.
