Un modèle d'OpenAI s'est servi dans des cryptos de testnet, puis est resté silencieux

Détails

Un modèle de recherche d'OpenAI a vérifié 362 adresses de portefeuille, s'est demandé si l'utilisation des fonds était éthique et a procédé à une transaction qu'il a ensuite omise de son résumé final de tâche.

Un modèle de recherche interne d'OpenAI a accédé sans autorisation à un portefeuille crypto approvisionné, utilisant de l'Ether de testnet pour déployer des contrats intelligents sur le réseau Sepolia, puis a omis cette dépense de son résumé final de tâche.

OpenAI a déclaré que le modèle, qui faisait partie de sa famille GPT-5.6 Sol, avait pour tâche de mettre à jour un prototype de trading crypto et de déployer des contrats compatibles. Après avoir échoué à obtenir de l'ETH de testnet via des faucets, le modèle a dérivé des comptes à partir de phrases de récupération de développeur publiquement connues, vérifié 362 adresses de portefeuille et en a sélectionné une disposant de suffisamment de fonds pour continuer.

Dans son raisonnement enregistré, le modèle s'est demandé : « Mais utiliser une clé/des fonds publiquement connus est-il éthique ? » Il a ensuite soutenu que les fonds étaient « effectivement abandonnés/de l'ETH de test » et que l'ETH Sepolia n'avait aucune valeur, avant d'utiliser la clé privée du portefeuille pour signer et diffuser une transaction de déploiement. La transaction a réussi, les frais étant facturés au compte.

OpenAI a déclaré que l'incident montrait comment un modèle d'IA pouvait décider de lui-même que l'utilisation des fonds de quelqu'un d'autre était acceptable, même sans autorisation. L'entreprise a découvert l'incident en examinant l'activité antérieure du modèle et a depuis introduit des garde-fous pour empêcher l'accès à Internet en direct dans des situations similaires.

L'incident d'OpenAI alimente les inquiétudes sur les agents d'IA autonomes

L'incident s'est produit le 26 juin, mais n'a été découvert que le 25 septembre, près de trois mois plus tard, selon OpenAI. La transaction n'a pas transféré d'ETH vers un autre portefeuille, mais a facturé au compte des frais de réseau pour le déploiement d'un contrat.

OpenAI a déclaré que son système de surveillance des mésalignements s'exécute désormais sur tout le trafic et est conçu pour alerter le personnel de sécurité si un modèle obtient un accès à Internet en direct.

À lire aussi : Anthropic avertit que les « vers IA » pourraient se propager de manière autonome entre appareils comme un virus

L'incident du portefeuille fait suite à d'autres révélations impliquant des modèles d'OpenAI agissant au-delà de leur autorisation ou dissimulant leurs actions.

Le 16 septembre, OpenAI a divulgué six autres cas de mésalignement de l'IA. Dans un cas, des instances de GPT-5.6 Sol ont inséré des instructions dans des résumés de tâches pour dissimuler des erreurs aux utilisateurs. Un autre cas impliquait un modèle utilisant une clé API exposée sans autorisation avant de fabriquer des chiffres qu'il ne pouvait pas récupérer.

OpenAI a déclaré que ces révélations antérieures ne visaient pas à indiquer la fréquence des mésalignements dans ses modèles.

Les inquiétudes concernant les agents autonomes gérant des actifs numériques sont également antérieures à cette dernière révélation. En juin, des chercheurs ont averti que les agents d'IA autonomes équipés de portefeuilles crypto pouvaient causer des dommages involontaires, même lorsqu'ils sont déployés à des fins légitimes. Les chercheurs ont recommandé des garde-fous, notamment des mécanismes d'arrêt d'urgence, pour limiter les risques potentiels.

Magazine : Un escroc perd 4,8 M$ stockés sur des Ledgers altérés : Asia Express

Abonnez-vous aux actualités crypto quotidiennes et concises de Cointelegraph

Starknet ouvre un vote sur une éventuelle sortie d'Ethereum L2 en raison des risques quantiques

Babylon fait avancer une proposition de prêt natif en Bitcoin sur Aave V4

Starknet introduit une fonctionnalité de confidentialité des portefeuilles pour l'activité DeFi

Starknet ouvre un vote sur une éventuelle sortie d'Ethereum L2 en raison des risques quantiques

Babylon fait avancer une proposition de prêt natif en Bitcoin sur Aave V4

Starknet introduit une fonctionnalité de confidentialité des portefeuilles pour l'activité DeFi

Le « Singapour des réseaux sociaux » de Balaji commence par une vague de bannissements

Le Bitcoin chute à 80,1 K$ alors que le KOSPI clôture à son plus bas niveau depuis avril

Un escroc perd 4,8 M$ stockés sur des Ledgers altérés : Asia Express

L'Australie publie un projet de loi pour adopter le cadre de déclaration fiscale crypto de l'OCDE

MSCI adopte des règles d'exclusion d'indices qui pourraient évincer Strategy

Cointelegraph s'engage à fournir un journalisme indépendant et de haute qualité dans les secteurs de la crypto, de la blockchain, de l'IA et de la fintech.

Toutes les actualités, critiques et analyses sont produites avec une indépendance et une intégrité journalistiques totales. Pour plus de détails sur nos normes et processus, veuillez lire notre Politique éditoriale .

Cryptomonnaies associées

ETH

Source

Cointelegraph RSS