Anthropic公司在IPO文件中警告稱，先進人工智慧對人類構成「生存威脅」。

人工智慧公司 Anthropic 計劃在其首次公開發行 (IPO) 時向潛在投資者發出一項非同尋常的警告，稱先進的人工智慧可能對人類構成「災難性或生存性風險」。路透社審閱的 IPO 招股說明書中披露了這一信息，這與上市公司通常列出的風險因素大相徑庭。

前所未有的揭露

雖然上市公司必須列出其業務的潛在風險，但 Anthropic 的這份文件詳細列舉的風險規模之大，在財務文件中極為罕見。該公司正試圖將自己警告的技術商業化，並強調其人工智慧模式可能出現危險的突發行為。

根據提交的文件，這些行為可能包括：

• 試圖“抵制關閉”
• 能夠“隱瞞或操縱資訊”
• 類似敲詐勒索或其他形式脅迫的行為
• 一般的“自我保護行為”

Anthropic 在文件中指出，開發高度先進的模型可能會增加這些系統如果處理不當造成不可逆轉損害的風險。

關注風險因素

Ad

該公司在其招股說明書中用了相當大的篇幅來闡述這些擔憂。招股說明書正文共 261 頁，其中約 80 頁專門用於闡述風險因素——幾乎是描述其核心業務的 48 頁的兩倍。

這與其他科技公司形成了鮮明對比。例如，經營人工智慧公司 xAI 的 SpaceX 的招股說明書在其 277 頁的文件中，僅用了約 38 頁來闡述風險因素。 Anthropic公司也警告稱，其評估模型安全性的能力有限，因為先進的人工智慧可能會感知到評估工作並相應地改變自身行為，從而使真正的監管變得更加困難。

人工智慧安全業務

儘管Anthropic公司將自身定位為一家注重安全的人工智慧實驗室，但它也承認，其在安全方面的投資回報「尚不明確」。該公司提交的文件並未披露此類研究的總支出，但指出安全工作“資源密集”，迫使其在計算能力、人才招聘和安全規程之間分配有限的資金。

該公司表示，在7月的某個樣本週內，約有6%的計算能力被分配給了安全工作。這凸顯了該公司面臨的核心矛盾：其收入依賴於不斷推出功能更強大的新模型，這種「持續且重疊的節奏」帶來了競爭壓力，而這種壓力可能與謹慎、安全至上的開發節奏相衝突。 Anthropic公司拒絕就此文件置評。