Anthropic前研究員揭露：部分員工認為AI災難風險高於50%

根據科技媒體《The Information》報導，人工智慧新創公司Anthropic的前研究員Jacob Coxon因擔憂AI安全問題於本週二宣布離職，並透露公司內部部分員工估計，AI造成災難性後果的機率超過50%。

Coxon的言論凸顯了在AI技術迅速發展的同時，來自產業核心的憂慮也日益加劇。

離職主因：對AI安全性的深切擔憂

曾在OpenAI任職多年、後於Anthropic負責早期AI模型訓練的Coxon向《The Information》表示，除非全球採取「大幅度的協同放緩」措施，否則AI可能帶來毀滅性場景。他指出，之所以能掌握同事的看法，是因為「相較於OpenAI，Anthropic內部擁有更為透明的文化」。

Coxon稱，他之所以選擇離職，是因為「開始切身感受到這項技術在未來一兩年內發展方向所帶來的恐懼」。

技術發展過快引發「生存恐懼」

Ad

Coxon的主要擔憂來自於業界正積極推動的「遞歸式自我改進」(recursive self-improvement)，即AI模型能自動化開發新一代AI系統的技術。他預測：「明年的系統將非常接近能完成我的全部工作。」

事實上，Anthropic本身也已承認遞歸式自我改進的風險，並曾指出，若模型產生非預期的目標，「隨著模型建構其後繼者，這種情況可能會加劇，變得更頻繁卻更難以理解，直到我們失去對它們的控制。」此外，Coxon也提到近期開源AI平台Hugging Face遭駭客攻擊的事件，加深了他的憂慮。

呼籲國際合作以減緩發展

面對快速演進的技術，Coxon呼籲國際社會應協調合作，以應對AI帶來的風險。他表示：「感覺上我們確實需要放慢腳步。」

他對美國AI公司之間的合作表示樂觀，但同時也指出，美國與中國之間的合作可能將面臨更大的挑戰。此番言論反映出，除了技術層面的挑戰外，地緣政治因素也為AI安全治理增添了複雜性。