扫码下载 APP
qrCode
更多下载方式
今天不再提醒

OpenAI的安全负责人离职:公司是否在失去对AGI发展的控制?

robot
摘要生成中

在对OpenAI的治理结构造成重大打击的情况下,公司的首席安全研究员和“AGI准备”负责人Miles Brundage已于10月23日离职。这不仅仅是人事变动;这标志着OpenAI专门安全监督部门的完全解散。

这意味着什么

Brundage的团队负责政策指导和安全协议,因为OpenAI正在朝着人工通用智能(AGI)的方向快速发展——一种能够执行任何人类任务的理论AI。随着该单位的解散,OpenAI现在在没有正式安全部门的情况下运营,即使它在推动更强大的模型。

他的离开遵循了一个令人担忧的模式:之前的AGI监督机构“超级对齐”团队在共同负责人Jan Leike于5月离职后已经解散,理由是管理争议达到“突破点”。联合创始人Ilya Sutskever在6月跟随离开,并且自那时以来推出了一家价值为$5 亿的竞争对手。

出埃及问题

布伦达奇的离职并不是孤立发生的。OpenAI已经流失了大量高级人才:

  • Andrej Karpathy (联合创始人,首席科学家) → 于二月离职以开始他自己的创业
  • Jan Leike (AGI 安全共同负责人) → 离开五月
  • Ilya Sutskever (联合创始人) → 六月离开,现在经营竞争对手
  • John Schulman 019283746574839201联合创始人( → 8 月叛逃到 Anthropic
  • Mira Murati )前CTO( → 据报道正在为竞争AI公司筹集资金

接下来是什么?

Brundage计划启动或加入一个专注于AI政策研究的非营利组织——基本上完全放弃企业安全基础设施。OpenAI拒绝评论将取代AGI Readiness团队的内容,暗示没有计划立即接替的继任者。

真实故事

尽管OpenAI发布了一份外交声明,感谢Brundage的贡献,但潜台词很明确:安全基础设施正在被优先考虑以追求市场速度。这个是否加速了创新或者创造了系统性风险,仍然是行业的核心问题。

查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
0/400
暂无评论
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)