OpenAI 機器人技術主管因與五角大廈的交易而辭職 - ForkLog:加密貨幣、人工智能、奇點、未來

ИИ-военщина AI war# OpenAI的機器人技術主管因與五角大樓的交易而辭職

對於OpenAI與美國國防部的有爭議協議,凱特琳·卡利諾夫斯基退出了公司硬體部門的主管職務。

「這是一個不容易的決定。人工智慧在保障國家安全方面扮演著重要角色。但對美國人進行未經法院許可的監控,以及未經人類批准的致命自主武器,這些問題值得比目前更深入的關注。」—她寫道。

卡利諾夫斯基曾在蘋果公司負責Mac電腦的硬體部分,隨後轉至Meta,成為Reality Labs部門的關鍵工程師之一。2024年,她加入OpenAI,擔任機器人技術和消費者硬體的主管。

在聲明中,她強調這個決定是「基於原則,而非針對個人」,並對OpenAI的CEO山姆·奧特曼及團隊表示「深深的尊重」。

「在我看來,這個公告是匆忙做出的,沒有明確界定限制。這主要是管理問題。這些問題太重要了,不能急於達成協議。」—她補充道。

OpenAI的發言人強調,與五角大樓的協議「為負責任地在國家安全領域使用AI創造了工作路徑,同時明確劃定了紅線:禁止內部監控和自主武器」。

「我們理解人們對這些問題有堅定的信念,我們將繼續與員工、政府和全球社會討論這些問題。」—他補充說。

OpenAI與五角大樓的協議於二月底簽訂,這是在Anthropic與國防部的談判陷入僵局後不久。

不久後,奧特曼承認這筆交易是「匆忙的」,從公司形象來看「看起來並不太好」。

這一情況影響了ChatGPT和Claude的受歡迎程度。第一個聊天機器人的刪除數量增加了295%,而第二個則登上了App Store的排行榜冠軍。

Claude和ChatGPT在美國的手機應用下載量。資料來源:Appfigures。

政府與Anthropic的爭端

2025年7月,美國國防部與Anthropic、Google、OpenAI和xAI簽訂了價值高達2億美元的AI安全解決方案合同。

2026年1月,《華爾街日報》報導與Anthropic的協議可能會破裂。分歧源於該創業公司的嚴格倫理政策。規定禁止使用Claude模型進行大規模監控和自主致命行動。

2026年2月,美國軍方動用Claude參與了逮捕委內瑞拉總統尼古拉斯·馬杜羅的行動,隨後衝突升級。

公司CEO達里奧·阿莫迪與國防部長皮特·海格斯會面,討論局勢。該部門提出最後通牒:Anthropic必須在2月27日前接受政府條件。

創業公司CEO達里奧·阿莫迪表示,他寧願不與五角大樓合作,也不願接受可能「破壞而非保護民主價值」的技術使用。

在2月底,美國總統唐納德·特朗普指示所有聯邦機構在六個月內完全停止使用Anthropic的技術。

他稱該創業公司為「失控的公司」,由「對現實世界一無所知的人」管理。

五角大樓正式承認Anthropic為「供應鏈風險」,這威脅到公司與其他政府承包商的合作。微軟和谷歌表示將繼續提供該公司的產品。

走上法庭

阿莫迪表示,他的公司將在法庭上對國防部將公司列為供應鏈風險的決定提出異議。他認為這一決定「在法律上沒有根據」。

他在聲明中指出,五角大樓的決定並未影響Claude的絕大多數客戶。

阿莫迪說,公司與國防部進行過多日的富有成效的談判,但在內部備忘錄外洩後談判破裂。該備忘錄中,CEO將OpenAI與該部門的關係描述為「更像是安全的表面展示,而非真正的風險防範」。

他為洩密道歉,並表示公司無意公開備忘錄內容,也未指示任何人這樣做。

「我們不希望惡化局勢。」—他寫道。

公司負責人強調,該文件是在多個公告宣布Anthropic將被從聯邦系統中移除後幾個小時內撰寫的。他為語氣道歉,稱那天對公司來說是「艱難的一天」。

阿莫迪補充說,該備忘錄是「過時的評估」,並不代表「審慎和深思熟慮的意見」。他表示,對公司來說,最重要的是確保美國士兵和國家安全專家的工具能在持續的大規模行動中獲得。

Anthropic將繼續以「名義成本」向國防部提供模型,直到需要為止。

白宮前人工智慧顧問迪恩·博爾指出,該公司將很難對五角大樓的決定提出異議。

「法院對政府關於國家安全問題的決策通常持較不願質疑的態度。要推翻這些決策需要很高的門檻,但並非不可能。」—專家如此表示。

提醒一下,2023年2月,Anthropic放寬了其關鍵安全政策,稱此舉是為了保持競爭力。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 留言
  • 轉發
  • 分享
留言
0/400
暫無留言