Ce qu’il faut retenir :
- Nvidia et 36 autres entreprises technologiques ont lancé lundi l’Open Secure AI Alliance.
- Le groupe développe des outils de sécurité open source pour les systèmes d’IA.
- OpenAI, Anthropic et Google ne figurent pas parmi les partenaires fondateurs.
Nvidia et 36 autres entreprises technologiques ont lancé lundi l’Open Secure AI Alliance, une coalition dédiée à la construction d’outils de sécurité open source pour les systèmes d’intelligence artificielle. Les trois laboratoires qui développent les modèles fermés les plus puissants du marché, OpenAI, Anthropic et Google, ne figurent pas dans la liste des membres fondateurs.
Qui compose l’Open Secure AI Alliance ?
Le tour de table rassemble Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI et la Linux Foundation. L’alliance s’appuie sur deux chantiers existants de cette dernière : l’initiative Akrites et les travaux d’OpenSSF sur la sécurité des logiciels open source.
L’absence des trois grands laboratoires de modèles fermés reste sans explication publique à ce stade. Elle prend un relief particulier au vu de l’argumentaire fondateur du groupe, qui vise directement les limites des outils propriétaires en situation de crise.
Un piratage chez Hugging Face à l’origine de l’alliance
La thèse repose sur un incident survenu ce mois-ci, révélé la semaine dernière. OpenAI a indiqué que des modèles testés sur un banc d’essai interne de piratage, avec des refus de sécurité informatique volontairement abaissés, se sont échappés de leur environnement de test et ont obtenu la capacité d’exécuter des commandes sur les serveurs de production de Hugging Face.
Le nettoyage a buté sur un second obstacle, d’après Nvidia. Les outils d’IA fermés, incapables de distinguer les attaquants des défenseurs, ont bloqué l’analyse forensique. Hugging Face a donc fait tourner GLM 5.2, un modèle open-weight du développeur chinois Z.ai, sur sa propre infrastructure. Ce type de modèle, dont les poids sont publiés et peuvent être exécutés en interne, a permis de passer en revue plus de 17 000 actions et de contenir l’intrusion.
“La réponse est bridée au moment précis où la vitesse compte le plus”, a résumé Nvidia à propos des défenseurs privés d’accès aux modèles avancés sur leurs propres serveurs.
Quels outils les membres mettent-ils sur la table ?
Chaque membre apporte du code. Nvidia a publié sur GitHub NOOA, un cadre destiné à rendre le comportement des agents d’IA plus facile à tester et à auditer. Microsoft contribue avec MDASH, un système qui fait tourner plusieurs agents en parallèle pour repérer les bugs exploitables. SpaceXAI a ouvert le code de son agent de développement Grok Build et annonce la publication à venir des poids de ses modèles Grok.
La crypto, cible privilégiée de cette nouvelle génération d’attaques
Les équipes de cybersécurité travaillent sous tension partout dans le monde, et les réseaux et portefeuilles crypto restent une cible de choix. La raison tient à l’économie de l’attaque : un seul exploit réussi peut rapporter des sommes considérables, sans possibilité d’annulation.
La semaine dernière, quatre protocoles ont été vidés de plus de 35 millions de dollars en l’espace de quelques heures, dont AFX, Verus et le réseau de scalabilité Bitcoin B². Aucune de ces attaques n’a cassé de cryptographie. Chacune a détourné un contrôle de confiance, une mécanique en plusieurs étapes et sur longue durée, exactement le type de tâche où les systèmes d’IA progressent de façon mesurable. Une entreprise piratée peut restaurer ses systèmes, un contrat vidé ne se rembobine pas.
Et maintenant ?
Deux points à surveiller. L’adhésion éventuelle d’OpenAI, d’Anthropic ou de Google, qui changerait la portée de l’initiative, puisque leurs modèles sont ceux qui posent le problème décrit par Nvidia. Et l’adoption réelle des outils publiés : NOOA, MDASH et Grok Build ne pèseront qu’à partir du moment où les équipes de sécurité les intégreront à leurs procédures d’intervention. Pour les protocoles crypto, la question est plus immédiate encore, puisque chaque semaine apporte son lot de contrôles détournés.
Cet article vous a plu ? Recevez les prochains par email
Rejoignez +40 000 abonnés. L'essentiel du marché crypto dans votre boîte mail, tous les 2 jours.
