Story

DeepMind 共同創辦人警告：AI 技術發展不應超越安全控制

Sep 16, 2026By Marcus Chen, Markets & Equities Correspondent1 min read

Text size

Background

根據《金融時報》(Financial Times) 週三報導，Google DeepMind 共同創辦人 Shane Legg 警告，快速發展的人工智慧技術絕不能超越安全控制的範疇。他同時宣布成立一個新機構，專門探討通用人工智慧 (AGI) 的部署問題。

AI 安全控制應與技術發展同步

隨著 AI 模型日益強大，能夠自行編寫軟體、執行自主任務，甚至協助開發新的 AI 系統，業界對於「遞歸式自我改進」(recursive self-improvement) 的擔憂日益加劇。這意味著技術的進步速度可能遠快於人類建立監控和管制安全措施的能力。

報導指出，Legg 認為 Anthropic 執行長 Dario Amodei 提出「減緩而非暫停」前沿模型發布的呼籲，是「方向上很有趣」且「值得考慮」的。這反映了業界高層對於如何平衡創新與風險的持續辯論。

儘管輝達 (Nvidia) 和 OpenAI 的高層近期聲稱已實現 AGI，但 Legg 表示，現在就斷言通用人工智慧 (AGI) 已經達成仍為時過早。AGI 被 Google DeepMind 定義為具備與人腦相當認知能力的系統。

Legg 仍對自己先前的預測感到「自在」，即 2028 年前實現「最低程度」AGI 的機率為 50%。為了促進更廣泛的公眾討論，他成立了 DeepMind 研究所 (The DeepMind Institute)。

根據報導，該研究所將涵蓋多個領域，包括：

其發布的首批三篇文章主題分別為 AI 安全、經濟政策以及「新烏托邦主義」的原則，旨在為 AGI 的未來發展提供多面向的探討。