掃描下載 Gate App
qrCode
更多下載方式
今天不再提醒

OpenAI的安全負責人離職:公司是否在失去對AGI發展的控制?

robot
摘要生成中

在對OpenAI的治理結構造成重大打擊的情況下,公司的首席安全研究員和“AGI準備”負責人Miles Brundage已於10月23日離職。這不僅僅是人事變動;這標志着OpenAI專門安全監督部門的完全解散。

這意味着什麼

Brundage的團隊負責政策指導和安全協議,因爲OpenAI正在朝着人工通用智能(AGI)的方向快速發展——一種能夠執行任何人類任務的理論AI。隨着該單位的解散,OpenAI現在在沒有正式安全部門的情況下運營,即使它在推動更強大的模型。

他的離開遵循了一個令人擔憂的模式:之前的AGI監督機構“超級對齊”團隊在共同負責人Jan Leike於5月離職後已經解散,理由是管理爭議達到“突破點”。聯合創始人Ilya Sutskever在6月跟隨離開,並且自那時以來推出了一家價值爲$5 億的競爭對手。

出埃及問題

布倫達奇的離職並不是孤立發生的。OpenAI已經流失了大量高級人才:

  • Andrej Karpathy (聯合創始人,首席科學家) → 於二月離職以開始他自己的創業
  • Jan Leike (AGI 安全共同負責人) → 離開五月
  • Ilya Sutskever (聯合創始人) → 六月離開,現在經營競爭對手
  • John Schulman 019283746574839201聯合創始人( → 8 月叛逃到 Anthropic
  • Mira Murati )前CTO( → 據報道正在爲競爭AI公司籌集資金

接下來是什麼?

Brundage計劃啓動或加入一個專注於AI政策研究的非營利組織——基本上完全放棄企業安全基礎設施。OpenAI拒絕評論將取代AGI Readiness團隊的內容,暗示沒有計劃立即接替的繼任者。

真實故事

盡管OpenAI發布了一份外交聲明,感謝Brundage的貢獻,但潛臺詞很明確:安全基礎設施正在被優先考慮以追求市場速度。這個是否加速了創新或者創造了系統性風險,仍然是行業的核心問題。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 留言
  • 轉發
  • 分享
留言
0/400
暫無留言
  • 熱門 Gate Fun查看更多
  • 市值:$3582.75持有人數:1
    0.00%
  • 市值:$3657.26持有人數:3
    0.07%
  • 市值:$3680.29持有人數:2
    0.00%
  • 市值:$3641.37持有人數:1
    0.00%
  • 市值:$3684.63持有人數:2
    0.04%
交易,隨時隨地
qrCode
掃碼下載 Gate App
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)