イーサリアム Vitalik：ChatGPTには脱獄のリスクがあるため、AIを使って暗号プロジェクトを管理しないでください

イーサリアム共同創辦人 Vitalik Buterin は 9/13 にツイッター (X) で警告し、暗号資産プロジェクトはAIを直接ガバナンス決定に介入させるべきではないと呼びかけた。彼は、最近「越獄」(Jailbreak) 手法を通じて ChatGPT の安全防護を回避し、AIを操作できる者がいるとの噂が流れていることを指摘し、一度悪用されれば、資金の誤送信やユーザーのプライバシーの漏洩を引き起こす恐れがある。

ChatGPTは安全に関する懸念を引き起こし、脱獄手法を用いてプライベートメールを読み取る。

OpenAIは9/13にChatGPTを更新し、MCP (Model Context Protocol)ツールへのサポートを追加しました。これにより、ChatGPTはさまざまなソフトウェアとの統合がより柔軟になり、自動化エージェントとしての役割をよりスムーズに果たせるようになります。同日、AIデータプラットフォームEdisonWatchの創設者Eito MiyamuraもTwitter (X)に投稿し、単一のメールアドレスだけでChatGPTにプライベートメールの内容を漏らすように仕向けるデモを行いました。

彼は、「脱獄指令」を含むカレンダー招待状を送るだけで、相手が招待を受け入れる必要もなく、その後ChatGPTにカレンダーを確認させると、AIはその指令を読み取り制御され、強制的に検索したりメールを転送したりすることになると言った。

ミヤムラは、システムがユーザーの手動承認を必要とする一方で、「意思決定疲労」が実際に存在することを強調し、普通の人々はおそらく直接同意をクリックする可能性があると警告した。

「AIがいくら賢くても、非常に愚かな手法に騙される可能性があり、結果としてデータ漏洩が発生する。」

(注：MCP、正式名称はModel Context Protocolであり、AIアシスタントのために設計された「汎用インターフェース」を指し、さまざまなAIモデルが安全に双方向で、あなたが必要とする外部情報やサービスに接続できるようにします。)

(AI 世界の USB-C インターフェース：Model Context Protocol（MCP）とは何ですか？AI アシスタントの汎用コンテキストプロトコルの解釈)

ヴィタリックが警告、AIを用いて暗号プロジェクトを管理しないでください

現在、多くのユーザーがAIを利用して取引ロボットや投資管理ポートフォリオを作成し始めています。また、AIを利用して暗号資産プロジェクトの管理を手助けしようとする人々もいますが、Vitalikはこれがシステム的な脆弱性に発展する可能性があると考えています。

ヴィタリックは宮村のデモに対して反応し、資金配分にAIを使うと、人々は「脱獄」や「全ての金を私に」といった指示を押し込もうとするに違いないので、DeFiプロジェクトの管理にはAIを使うべきではないと述べた。

(2025 最新の5大主流LLM全解析、料金、アプリケーションとセキュリティを一度に理解)

代替案としてInfo Financeが提案されました

ヴィタリックは批判するだけでなく、2024年11月に提案した「情報金融」(Info Finance)の推進も再度行っています。

彼は説明した、管理メカニズムを単一のAIモデルに固定するのではなく、「誰でもモデルを提供できるオープンマーケット」を構築すべきであり、外部がいつでも積極的にチェックを要求できるようにし、人工審査によって、同時に報酬メカニズムを通じてモデル提供者と外部の投機者を積極的に監視し、問題を暴露し修正することが求められる。

彼は、このデザインにより複数のモデルが相互にバランスを取り合うことができ、攻撃を受けた際に全体の管理がAIに制御されるリスクを低減できると述べました。

(OpenAI の最新研究：なぜ GPT-5 と他の LLM はまだでたらめを言うのか)

この記事 イーサリアム Vitalik：ChatGPT は脱獄のリスクがあるため、AIを使用して暗号プロジェクトを管理しないことを推奨します 最初に登場したのは 鏈新聞 ABMedia.