彭博：安全疑慮加劇，OpenAI 執行長考慮放緩 AI 開發腳步

根據《彭博社》週五引述知情人士報導，隨著對日益強大的人工智慧 (AI) 系統的安全疑慮加劇，OpenAI 執行長 Sam Altman 正在考慮放緩尖端 AI 的開發步伐，並可能與其他 AI 實驗室協同進行。

浮上檯面的安全疑慮

消息指出，Altman 在本週一次全公司會議上討論了此一可能性。該構想可能涉及多家 AI 公司自願性地放緩開發進程，不過報導也提到，部分實驗室可能不會同意此類舉措。

這場討論的背景是整個產業對 AI 安全的擔憂日益升高。OpenAI 首席科學家 Jakub Pachocki 近期便公開呼籲，在建立共同的安全標準之前，業界應自願放慢腳步。他警告，沒有任何一家公司能保證其安全能力可以跟上 AI 系統日益增強的性能。

產業與監管同步升溫

事實上，OpenAI 已採取部分措施減緩開發。該公司在八月時表示，在發生一起涉及 AI 代理與 Hugging Face 的事件後，已將其最新模型的強化學習訓練暫停兩週，以加強安全、監控與對齊 (alignment) 的保障措施。其最大規模的前沿強化學習訓練計畫，目前也因等待進一步測試而持續擱置。

Ad

除了 OpenAI，來自 Anthropic 和 Google DeepMind 的研究人員也曾公開對 AI 的發展速度表示擔憂。與此同時，美國國會議員已加強審查力道，參議院正就 Hugging Face 的數據洩露事件對 OpenAI 展開調查。

對投資人的潛在影響

這場關於開發速度的辯論，正值 OpenAI 與 Anthropic 等領導廠商準備進行潛在的公開上市 (IPO) 之際，這使得投資人更加關注這些公司如何在快速發展的商業價值，與開發更強大系統所帶來的成本及風險之間取得平衡。

此一趨勢凸顯了在評估高成長的 AI 公司時，除了技術領先地位與商業化潛力外，治理與安全風險管理的重要性也日益增加。OpenAI 本身也已敦促國會建立強制性的國家級 AI 安全要求，包括獨立評估、網路安全措施和事件通報機制。