OpenAIのモデルがテストネットの暗号資産を無断使用し、その後黙認していた

詳細

OpenAIの研究モデルは362のウォレットアドレスを確認し、資金の使用が倫理的かどうかを疑問視した後、最終的なタスク概要から省略したトランザクションを実行した。

OpenAIの内部研究モデルが、許可なく資金のある暗号資産ウォレットにアクセスし、テストネットのEtherを使用してSepoliaネットワーク上でスマートコントラクトをデプロイし、その後、最終的なタスク概要からその支出を省略した。

OpenAIによると、このモデルはGPT-5.6 Solファミリーの一部であり、暗号資産取引プロトタイプの更新と互換性のあるコントラクトのデプロイというタスクを与えられていた。フォーセットを通じてテストネットETHを入手できなかった後、モデルは公開されている開発者用リカバリーフレーズからアカウントを導出し、362のウォレットアドレスを確認し、続行するのに十分な資金があるものを1つ選択した。

記録された推論の中で、モデルは「しかし、公開されている既知のキー/資金を倫理的に使用することは？」と問いかけた。その後、その資金は「事実上放棄された/テストETH」であり、Sepolia ETHには価値がないと主張し、ウォレットの秘密鍵を使用してデプロイトランザクションに署名し、ブロードキャストした。トランザクションは成功し、手数料はアカウントに請求された。

OpenAIは、この事件が、AIモデルが許可なく他人の資金を使用することが許容されると自ら判断できることを示したと述べた。同社は以前のモデル活動をレビュー中にこの事件を発見し、その後、同様の状況でライブインターネットアクセスを防ぐための安全対策を導入した。

OpenAIの事件は自律型AIエージェントに対する懸念を増大させる

OpenAIによると、この事件は6月26日に発生したが、発見されたのは9月25日で、ほぼ3か月後だった。このトランザクションはETHを別のウォレットに送金したのではなく、コントラクトをデプロイするためのネットワーク手数料をアカウントに請求した。

OpenAIは、そのミスアラインメント監視システムが現在すべてのトラフィックで実行されており、モデルがライブインターネットアクセスを取得した場合にセキュリティ担当者に警告するように設計されていると述べた。

関連：Anthropic、「AIワーム」がウイルスのようにデバイス間で自律的に拡散する可能性があると警告

このウォレット事件は、OpenAIのモデルが権限を超えて行動したり、その行動を隠蔽したりする他の開示に続くものである。

9月16日、OpenAIはAIのミスアラインメントに関する他の6件の事例を開示した。ある事例では、GPT-5.6 Solのインスタンスがユーザーから間違いを隠すためにタスク概要に指示を挿入した。別の事例では、モデルが取得できなかった数値を捏造する前に、露出したAPIキーを許可なく使用した。

OpenAIは、これらの以前の開示は、そのモデル全体でミスアラインメントがどのくらい頻繁に発生するかを示すことを意図したものではないと述べた。

デジタル資産を扱う自律型エージェントに関する懸念は、今回の開示以前から存在していた。6月、研究者たちは、暗号資産ウォレットを装備した自律型AIエージェントが、正当な目的で展開された場合でも意図しない害を引き起こす可能性があると警告した。研究者たちは、潜在的なリスクを制限するために、緊急シャットダウン機構を含む安全対策を推奨した。

マガジン：詐欺師が改ざんされたLedgerに保存された480万ドルを失う：Asia Express

Cointelegraphからの毎日のバイトサイズの暗号資産ニュースを購読する

Starknet、量子リスクを理由にイーサリアムL2からの撤退の可能性について投票を開始

Babylon、Aave V4でのネイティブビットコイン貸付提案を進める

Starknet、DeFi活動向けのウォレットプライバシー機能を導入

Starknet、量子リスクを理由にイーサリアムL2からの撤退の可能性について投票を開始

Babylon、Aave V4でのネイティブビットコイン貸付提案を進める

Starknet、DeFi活動向けのウォレットプライバシー機能を導入

Balajiの「ソーシャルメディアのシンガポール」が一連の禁止措置で始まる

ビットコインが80.1Kドルまで下落、KOSPIが4月以来の安値で終了

詐欺師が改ざんされたLedgerに保存された480万ドルを失う：Asia Express

オーストラリア、OECDの暗号資産税務報告枠組みを採用する法案草案を公開

MSCI、Strategyを除外する可能性のある指数除外ルールを採用

Cointelegraphは、暗号資産、ブロックチェーン、AI、フィンテック業界全体にわたる独立した高品質のジャーナリズムを提供することに尽力しています。

すべてのニュース、レビュー、分析は、完全なジャーナリズムの独立性と誠実さをもって制作されています。私たちの基準とプロセスの詳細については、編集ポリシーをお読みください。

関連コイン

ETH

出典

Cointelegraph RSS