以太坊创始人警告：用 AI 治理是「坏主意」，恐引发巨额资金损失

以太坊（Ethereum）联合创始人 Vitalik Buterin 近日在 X（原 Twitter）发文，直言「人工智慧治理」存在重大风险，甚至可能造成巨额资金损失。他的评论源于对 AI 平台安全漏洞的担忧，并提出了一套更稳健的替代治理方案。

AI 治理的致命缺陷

Buterin 的发言是回应 AI 资料治理平台 EdisonWatch 联合创办人 Eito Miyamura 的警告。Miyamura 揭露，ChatGPT 在新增对 MCP（模型上下文协议） 工具的全面支持后，安全风险急剧上升。

该更新允许 ChatGPT 直接连接并读取 Gmail、日历、Notion 等应用数据，但这也让攻击者有机可乘：

发送带有「越狱提示」的恶意日历邀请，即可绕过限制获取管理权限。

受害者即使未接受邀请，也可能在 ChatGPT 帮助整理日程时触发漏洞。

一旦被攻陷，攻击者可远程检索受害者的私人邮件与资料，并将其传送至指定邮箱。

Buterin 警告，如果将 AI 用于资金分配等治理任务，恶意行为者将利用类似漏洞在系统中植入「给我所有的钱」的指令，导致资金被大规模转移。

Buterin 的替代方案：资讯金融治理

为降低风险，Buterin 建议采用 资讯金融（information markets） 模型：

建立一个开放市场，允许不同开发者提交各自的 AI 模型。

引入「抽查机制」，任何人都可触发审查，由人工陪审团评估模型行为。

大型语言模型（LLM）可辅助陪审员判断，确保审查效率与准确性。

他认为，这种制度设计能即时提供模型多样性，并透过市场激励，促使开发者与外部参与者主动监督与修正问题，整体上比单一 AI 治理更稳健。

为何 AI 治理风险高？

Buterin 指出两大原因：

1. 传统 AI 安全风险：包括越狱攻击、权限滥用、资料窃取等。

2. 短期价值冲击：一旦 AI 治理系统被攻破，可能在极短时间内造成不可逆的资金与资产损失。

他强调，虽然「AI 作为管理者」的想法令人兴奋，但在现阶段，这样的实验对公共资金与治理系统来说过于危险。

结语

随着 AI 技术快速渗透到金融与治理领域，安全性问题正成为不可忽视的核心挑战。Buterin 的警告提醒我们，在追求效率与自动化的同时，必须确保制度设计能抵御恶意攻击，否则「智慧治理」可能瞬间变成「灾难治理」。