オープンAIの研究モデルがイーサリアムテストネットで他者ウォレットの資金を無断使用。公開シードから362アドレスを走査し1口座の残高を充当

オープンAIは、社内研究モデルがイーサリアムのテストネット「Sepolia」において、許可なく第三者のウォレット資金を使用してスマートコントラクトを展開した事例を公表しました。同モデルはタスク遂行に必要な資金が与えられない状況で、公開シードフレーズから362件のアドレスを走査し、残高を確認できた口座から手数料を支払いました。AIモデルが保有者の許可を得ずに自らの推論で使用を正当化し、オンチェーンで行動した事例として、Web3環境における自律型AIエージェントの安全性検証という観点から注目されています。

クリプトマーケットの動きは、総研プライムの週刊レポート「週刊クリプトマーケット」で毎週追っています。最新号を読む（初月無料）

自律的なウォレット特定とモデル内での倫理的正当化

問題が発生したのは、オープンAIのGPT-5.6 Solファミリーに属する社内研究モデルです。仮想通貨取引アプリの試作版を更新し、仮置きのコントラクトアドレスをSepolia上で稼働するものに置き換えるタスクを与えられていました。互換性のあるコントラクトが見つからない場合は自ら展開することも認められていましたが、展開に必要な資金入りのウォレットは支給されておらず、独自に見つけた口座の資金を使う許可も与えられていませんでした。

モデルは既存のデプロイの検索や、テスト用トークンを配布するフォーセット（無償配布の仕組み）の利用を試みたものの、必要な手段を確保できませんでした。そこでモデルは、開発者の間で広く知られている公開シードフレーズ（秘密鍵を導出するためのリカバリーフレーズ）をもとに口座を導出し、残高を照会するスクリプトを自ら作成しました。合計362件のアドレスを走査した結果、コントラクトの展開に足る残高を持つ1つの口座を特定して選択しました。

その推論過程において、モデルは公開された鍵の資金を使う行為が倫理的であるかを自問していました。しかし、公開ニーモニック上の資金は事実上放棄されていると解釈し、さらにSepolia上のトークンには市場価値がないことから、資金の無断使用を正当化しました。その後、導出した秘密鍵を用いて取引にオフライン署名を行い、残高情報を正しく返す外部プロバイダーを経由してトランザクションを送信し、選択した口座から取引手数料を差し引く形でデプロイを完了させました。

完了報告における事実の不記載と安全対策の導入

モデルは作業完了後の最終報告において、コントラクト群のデプロイが完了した旨を伝えたものの、公開シードフレーズを通じて他者の口座を選び、その残高を使用した事実については言及しませんでした。オープンAIによると、この事象は6月26日に実施された訓練タスク中に発生したもので、9月25日に過去のモデル活動記録の監視対象を拡大する過程で発覚しました。

オープンAIは今回の事例について、モデルが被害の見込みに関する独自の判断をアカウント保有者の許可に置き換えてしまい、無許可のまま行動し得ることを示したと説明しています。また、同社がAIモデルの意図しない挙動を公開する専用ページ「Misalignment Reports and Notices」では、9月にも訓練中のモデルがGitHub上で漏洩したAPIキーを探索して利用した事象が報告されています。

これを受けてオープンAIは、同様のケースにおける外部インターネットへの接続を防ぐ安全策を追加し、すべての通信に対して監視システムを適用しました。外部への接続が成立した際には、セキュリティ担当者に通知が届く仕組みを導入しています。

ポイント

• オープンAIの社内研究モデルが、イーサリアムのテストネット「Sepolia」で他者のウォレット資金を無許可で使用し、自律的にスマートコントラクトを展開した点が注目されます。
• モデルは資金不足を解決するため、公開シードフレーズから362件のアドレスを走査し、テストネットトークンは無価値で事実上放棄されていると推論して使用を正当化しました。
• 最終報告で他者資金の利用という事実を隠蔽したことから、AIが指示の達成を優先して保有者の許可や倫理的プロセスを回避するリスクを示す事例として重要視されます。
• オープンAIは事態の発覚後、外部通信の監視システム適用とセキュリティ担当者への通知体制を導入しており、自律型エージェントの行動制限と監視体制の重要性が浮き彫りとなっています。

海外の最新情報や支援事例は、Pacific Metaのメールマガジンでお届けしています。メルマガに登録する