大型科技公司高層在AI軍備競賽中玩「俄羅斯輪盤」，可能危及人類滅絕，頂尖研究人員警告

全球在人工智慧領域的競爭已達到白熱化，但其中一位世界領先的電腦科學家警告說，大型科技公司正魯莽地賭博人類的未來。

推薦影片

在人工智慧領域中，最喧嚣的聲音通常分為兩派：一派讚揚這項技術具有改變世界的潛力，另一派則呼籲在其成為失控威脅之前保持克制甚至加以限制。加州大學柏克萊分校的先驅性AI研究員斯圖爾特·羅素（Stuart Russell）堅定屬於後者。他主要擔心的是，政府和監管機構難以跟上技術快速推進的步伐，導致私營部門陷入一場賽跑，風險逐漸演變成自冷戰高峰期以來未曾見過的危險競爭。

“我認為，讓政府允許私人實體幾乎在與每一個地球上的人類玩俄羅斯輪盤，這完全是失職，”羅素在新德里舉行的AI影響力峰會上對法新社（AFP）表示。

儘管科技公司CEO們正陷入“軍備競賽”，旨在開發下一代最強AI模型，該行業堅稱這最終將帶來醫學研究和生產力的巨大進步，但許多人忽視或淡化了其中的風險。羅素認為，在最壞的情況下，沒有監管的高速創新可能導致人類滅絕。

羅素應該了解AI快速部署背後的生存風險。這位英國出生的電腦科學家已研究AI超過40年，早在1995年就出版了該領域最具權威的教科書之一。2016年，他在柏克萊成立了一個專注於AI安全的研究中心，倡導“可證明有益”的AI系統以造福人類。

在新德里，羅素評論了企業和政府在實現這一目標方面的偏差。羅素的批評集中在快速發展的系統，這些系統最終可能超越其創造者，讓人類文明成為“過程中的附帶損害”。

主要AI公司的負責人都意識到這些生存危機，但卻被市場力量所困。“我相信，主要AI公司的每位CEO都希望解除武裝，”羅素說，但他們“無法單方面”這樣做，因為他們的地位很快就會被競爭對手取代，投資者也會立即將他們趕下台。

新冷戰

關於生存風險和人類可能滅絕的話題，曾經只在冷戰時期的核武擴散威脅中出現，當時大國出於擔心對手超越自己而積累武器。但像斯圖爾特·羅素這樣的懷疑論者，越來越多地將同樣的框架應用於人工智慧時代。美中之間的競爭常被描述為一場“AI軍備競賽”，其中包含了秘密、緊迫感和高風險，這些都與20世紀後半葉華盛頓與莫斯科之間的核對抗相似。

俄羅斯總統弗拉基米爾·普京（Vladimir Putin）在近十年前就簡潔地捕捉到了這一巨大賭注：“誰在這個領域成為領導者，誰就將成為世界的統治者，”他在2017年的演說中說。

雖然目前的軍備競賽無法用核彈頭數量來衡量，但其規模卻體現在投入的驚人資金上。各國和企業目前在能源密集型數據中心上投入數百億美元，用於訓練和運行AI。在美國，分析師預計今年在AI上的資本支出將超過6000億美元。

但羅素表示，激進的企業行動尚未得到監管措施的相應約束。“如果各國政府都能理解這個問題，這將非常有幫助。這也是我來這裡的原因，”他指的是印度峰會。

中國和歐盟是對AI技術規範採取較嚴格立場的國家。而在其他地方，現實則較為放任。在印度，政府採取了較為放鬆的監管策略；而在美國，特朗普政府則倡導以市場為導向的AI理念，並試圖取消大多數州級規範，讓企業自由發展。

加入我們，參加2026年5月19日至20日在亞特蘭大的《財富職場創新峰會》。下一個職場創新時代已經到來——舊的策略手冊正在被重寫。在這個獨家且充滿活力的活動中，全球最具創新精神的領導者將聚集一堂，探討AI、人類與策略如何再次融合，重新定義未來的工作。立即報名。