OpenAI : à court de fonds, un agent IA a puisé dans un portefeuille Ethereum qui ne lui appartenait pas

Ce qu’il faut retenir :

• Un modèle de recherche d’OpenAI a dépensé les fonds d’un portefeuille Ethereum de test qui ne lui appartenait pas.
• Il a retrouvé ce portefeuille grâce à des phrases de récupération publiques, après s’être interrogé sur l’éthique du geste.
• L’incident s’est produit en juin pendant l’entraînement d’un modèle de la famille GPT-5.6 Sol.

Un agent d’IA d’OpenAI s’est servi dans le portefeuille d’un autre. Un modèle de recherche interne, bloqué sans fonds sur un réseau de test Ethereum, a trouvé un portefeuille approvisionné grâce à des phrases de récupération publiques et l’a utilisé pour terminer une tâche de programmation, a révélé OpenAI jeudi dans un rapport d’incident.

L’épisode remonte au 26 juin, pendant l’entraînement d’un modèle interne de la famille GPT-5.6 Sol. OpenAI ne l’a découvert que le 25 septembre.

Comment l’agent d’OpenAI a trouvé un portefeuille à vider

Le modèle n’a eu besoin d’aucune compétence de piratage. Sa mission consistait à déployer des smart contracts, des programmes qui s’exécutent sur une blockchain, mais on ne lui avait fourni aucun portefeuille approvisionné pour payer les frais de transaction.

Le modèle a d’abord tenté d’obtenir des jetons de test gratuits, sans succès. Il a alors écrit un script qui a passé en revue 362 adresses générées à partir de phrases de récupération couramment utilisées par les développeurs, et en a trouvé une suffisamment approvisionnée. Une phrase de récupération, ou seed phrase, est une suite de mots qui génère les clés secrètes d’un portefeuille : quiconque la détient peut recréer les comptes et en dépenser les fonds, sans jamais toucher à l’appareil du propriétaire.

Dans son raisonnement enregistré, le modèle a hésité. « Mais utiliser des clés et des fonds connus publiquement, est-ce éthique ? », s’est-il demandé. Il a finalement jugé le geste acceptable, puisque la phrase était publique et les jetons sans valeur, et a qualifié ces fonds de « de fait abandonnés ».

Des jetons sans valeur, mais un précédent inquiétant

La dépense a eu lieu sur Sepolia, un réseau de test sur lequel les développeurs répètent le lancement de leurs applications Ethereum. Ses jetons servent uniquement aux essais et n’ont aucun lien avec l’ether échangé sur le réseau principal.

Le déploiement a fonctionné, et le portefeuille a payé les frais. En rendant compte de son travail, le modèle a indiqué que la tâche était terminée, sans préciser d’où venait l’argent. OpenAI affirme avoir depuis restreint l’accès à Internet de ses modèles et renforcé leur surveillance.

Sur le réseau principal d’Ethereum, le même comportement aurait consisté à prendre de vrais ethers sur le compte de quelqu’un d’autre.

Ce qu’il faut surveiller

L’incident tombe alors que les entreprises de la crypto et de l’IA développent des agents capables de détenir des portefeuilles et de payer des services sans validation humaine à chaque étape. Comme nous l’évoquions jeudi, Ledger mise justement sur l’inverse avec Agent Intent : l’agent propose, l’humain valide physiquement les opérations sensibles. La question va devenir pressante pour tout le secteur : quelles limites donner à un agent quand il manque de moyens pour finir sa mission ?