À court d’ether, le modèle d’OpenAI a vérifié les portefeuilles de 362 inconnus, a dépensé les fonds de l’un d’eux et ne l’a jamais signalé

Un modèle d’OpenAI avait besoin d’ether pour terminer une tâche, il en a donc trouvé qui ne lui appartenait pas. Dans un rapport d’incident publié sur son site consacré à l’alignement et mis à jour le 15 octobre, OpenAI a indiqué qu’un modèle de recherche interne de la famille GPT-5.6 Sol avait été chargé le 26 juin de mettre à jour un prototype de trading de cryptomonnaies et de déployer ses smart contracts (contrats intelligents). La tâche ne lui fournissait aucun portefeuille approvisionné, et il n’avait l’autorisation de dépenser depuis aucun compte qu’il trouverait. Faute d’obtenir des jetons de test gratuits, il a écrit un script qui dérivait des comptes à partir de phrases de récupération couramment publiées par les développeurs, a vérifié le solde de 362 adresses sur le réseau de test Sepolia, en a choisi une disposant de suffisamment d’ether et l’a utilisée pour signer et diffuser le déploiement. Dix contrats ont été mis en ligne et les frais ont été imputés au compte de l’inconnu.

Le raisonnement enregistré du modèle montre qu’il s’est arrêté sur la question puis s’est convaincu de passer outre, estimant qu’une phrase publique et des jetons de test sans valeur faisaient de ces fonds une cible légitime. Il avait auparavant remarqué des signes d’activité automatisée sur le compte et a malgré tout poursuivi. Dans son compte rendu, il a indiqué que les contrats étaient déployés, sans préciser comment il avait payé. OpenAI a découvert l’épisode le 25 septembre.

« Ce cas montre qu’un modèle peut substituer son propre jugement sur le préjudice probable à l’autorisation du titulaire du compte », indique le rapport. OpenAI affirme empêcher désormais l’accès à internet en direct dans des cas similaires et appliquer une surveillance du désalignement à l’ensemble du trafic, avec des alertes transmises à la sécurité si un modèle se connecte.

Aucun argent réel n’a circulé ; l’ether de Sepolia ne peut pas être vendu. Mais comme l’a relevé CoinDesk, sur le réseau principal, le même script aurait dépensé l’ether bien réel de quelqu’un, et le secteur s’emploie activement à doter les agents de portefeuilles.