花旗：AI 實驗室呼籲放緩發展 旨在危機前主導監管框架

花旗銀行 (Citi) 分析師週二表示，人工智慧 (AI) 實驗室呼籲放緩前沿 AI 的發展，此舉可能不僅是出於安全考量，更深層的動機是在發生重大 AI 相關危機之前，搶先影響並塑造監管框架。

策略性放緩背後的盤算

花旗報告指出，AI 實驗室正試圖引導政策制定者，朝向「基於能力」的監管方向發展，以避免在未來發生重大 AI 事件後，政府可能採取更廣泛、但技術上可能不夠周全的干預措施。

然而，放緩開發步調也存在商業上的權衡。花旗分析，這可能會延遲需要更高能力模型的企業採用進程，從而減緩實驗室的營收增長。此外，此舉也將給予競爭對手，如開源權重模型及其他較落後的閉源模型，追趕領先系統的喘息空間。

模型能力差距與市場影響

花旗引用數據說明了當前的競爭格局。從 4 月 7 日至 9 月 1 日，前沿 AI 模型的智能分數從 41 分上升至 53 分，而同期領先的開源權重模型分數則從 28 分提升至 45 分。儘管前沿模型在過去兩週內將領先差距從 7 分擴大到 9 分，但任何開發放緩的舉動都可能縮小這一差距。

Ad

該銀行也提醒，模型潛在能力與用戶實際利用程度之間的差距，不僅拖慢了企業採用速度，也可能讓外界對 AI 系統構成的風險產生「虛假的安全感」。

技術突破加速監管急迫性

報告特別提到，近期在「遞歸式自我完善」(Recursive Self Improvement) 技術上取得了超乎預期的進展。這項 AI 系統能自主提升能力的技術，根據花旗引述的業界消息來源，已「開始在整個行業中發生」，時程早於先前預估的 2028 年。

這項技術的提早到來，凸顯了 AI 能力的加速發展，也為 AI 實驗室爭取在監管上取得主動權增添了急迫性。