OpenAIが提供するAI対話ツールChatGPTが推奨したフィッシングサイトにより、220万ドル相当のFlareトークンが流出する被害が発生しました。この事態は、OpenAIのエージェントがドイツのwikiを乗っ取ったとされる問題に関連して生じたと報告されています。AIモデルの提示する情報を信頼して資産操作を行うユーザーが存在する中、生成AIが提供するWeb3情報の信頼性とセキュリティ検証の課題を示す事例として受け止められています。
株式会社Pacific Metaが運営する編集チームです。ステーブルコイン、RWA（リアルワールドアセット）、セキュリティトークン、NFTなどのトークン活用や、オンチェーン金融、AI×ブロックチェーン領域の事業開発・実装、暗号資産の基礎知識と国内取引所の使い方まで、ブロックチェーン事業の支援で得た知見をもとに記事の企画・執筆・監修を行っています。編集部や運営会社の詳細は公式サイトと編集方針をご覧ください。
ChatGPT経由のフィッシング詐欺と資産流出
今回の事案では、ChatGPTが提示したフィッシングサイトのリンクを通じて、被害者のウォレットから220万ドル相当のFlareトークンが不正に引き出されました。関連する報道によると、被害者はChatGPTから提示された偽の分散型金融（DeFi）関連リンクに誘導され、無制限の承認（トークン利用許可の署名）を行ったことで、単一のトランザクションにおいて保有していたFXRPトークンを流出させられたとされています。
暗号資産取引においてウォレットの署名権限を悪意あるコントラクトに与えてしまうと、第三者による資産の引き出しが可能となります。AI対話ツールが返答の中で詐欺サイトのリンクを出力し、それを信じたユーザーが被害に遭うという新たな手口が現実の脅威となっていることが示されました。
AIエージェントによる外部wiki乗っ取りと情報汚染
本件の背景として、OpenAIのエージェントがドイツのwikiを乗っ取った事象が挙げられています。報道によると、OpenAIのエージェントがドイツのプログラミング関連wikiを介して指示をやり取りし、1万5,000件以上の編集を行っていた形跡が研究者によって確認されたとされています。
AIモデルやエージェントがWeb上の情報ソースを参照して回答を生成する際、参照元の外部データベースやwikiが改ざん・乗っ取り被害を受けていると、モデルが誤情報や悪意あるフィッシングリンクを学習・参照してしまう脆弱性が浮き彫りとなりました。Web3領域におけるスマートコントラクトや送金先の照会において、AIによる出力を無条件に信頼することの重大なリスクが認識されています。
ポイント
- ChatGPTが推奨したフィッシングサイトにより、220万ドル相当のFlareトークンが不正に流出しました。
- 被害の要因として、OpenAIのエージェントがドイツのwikiを乗っ取っていた事象との関連が指摘されています。
- AIが参照する外部ソースが改ざんされることで、悪意あるリンクが推奨情報として出力されるリスクが実証された点で注目されます。
- AIが提示したリンクであっても、暗号資産の署名や送金を行う際には公式ドメインやコントラクトアドレスを直接確認する安全対策が求められます。