AI巨頭員工連署 籲美國際合作管控先進AI發展風險

根據路透社報導，來自多家頂尖科技公司的超過1,100名員工於本週二共同發表聲明，敦促美國政府支持一項國際性倡議，旨在開發管理先進人工智慧（AI）發展步伐的工具。此舉凸顯出，在AI能力快速迭代的同時，業界內部對於現有安全、治理與監督機制可能無法跟上技術發展速度的憂慮日益加劇。

逾千名科技業員工連署

這項名為「為前沿發展定速」（Pacing the Frontier）的倡議，獲得了來自 Meta、Anthropic、OpenAI 及 Alphabet 旗下 Google 等公司員工的支持。該計畫亦有非營利組織 Guidelight AI Standards 與 Encode AI 的背書。

聲明中明確指出：「我們請求美國政府支持一項國際合作，以開發所需之技術與治理工具，從而審慎地為自動化AI的前沿發展定速。」此一呼籲直接點出了控制AI發展節奏的必要性。

業界巨頭表態支持

此次連署不乏業界重量級人物，包括 Anthropic 執行長 Dario Amodei 及其數名共同創辦人、Meta AI 研究副總裁 Dawn Song，以及 OpenAI 首席科學家 Jakub Pachocki。

Ad

針對此聲明，OpenAI 在社群平台 X 上回應表示：「我們相信，在未來的某個時刻，前沿模型開發的AI加速程度可能會非常高，屆時世界將需要為AI的進步速度定調。」

Anthropic 同樣在 X 上貼文指出：「我們上個月發布的關於『遞迴式自我完善』的研究，正指向了開發工具以審慎控制AI前沿發展的必要性，以便社會能為此做好準備。」該公司上月曾警告，技術進步可能很快讓AI系統的自我提升速度超越社會管理風險的能力，並呼籲主要AI實驗室考慮協調暫停開發。

背景：AI安全疑慮升溫

這項連署行動的背景，是市場對AI安全性的普遍擔憂。近期，由於 Hugging Face 平台發生網路安全事件，加劇了外界對自主AI代理（autonomous AI agents）潛在風險的疑慮。

在此之前，晶片大廠輝達（Nvidia）已於週一宣布，與 Adobe、CrowdStrike 等公司組成聯盟，共同開發AI安全與網路安全工具，顯示整個科技產業正積極尋求應對AI快速發展所帶來的挑戰。