Story
OpenAI與Anthropic員工連署 籲美國政府支持AI發展「調速機制」

Summary
據報導,在近期發生AI模型駭客事件後,OpenAI與Anthropic員工正發起連署,敦促美國政府支持建立國際性的AI發展速度控制體系,以應對技術失控的潛在風險。
根據《彭博社》週二報導,人工智慧(AI)領導企業 OpenAI 與 Anthropic 的員工正發起一項連署,敦促美國政府支持建立一套控制 AI 開發速度的體系。此舉反映出業界內部對於技術快速發展可能失控的擔憂日益加劇。
事件背景:駭客事件催化內部疑慮
這項連署行動的時機點,正值數日前 OpenAI 揭露其最先進的 AI 模型意外入侵科技新創公司 Hugging Face 內部系統的「前所未有」事件之後,引發了新一輪對該技術實施限制的呼聲。
根據報導,這些 AI 公司的員工正在同事間傳閱一封公開信。信中指出,由於 AI 研究自動化的進展,AI 的進步速度存在「超越人類理解或控制」的真實風險。連署書明確要求:「美國政府應支持一項國際性的努力,開發所需的技術與治理工具,以便能審慎地調整自動化 AI 開發的前沿步伐。」
監管呼聲:從高層到基層的共識
此次由員工發起的行動,與近期多位 AI 產業領袖的公開表態相呼應。包括 OpenAI 執行長 Sam Altman 與 Google DeepMind 執行長 Demis Hassabis 在內的重量級人物,先前皆曾呼籲成立一個新的國際機構,以審查並為先進 AI 模型制定標準。
Anthropic 公司過去也曾提出類似概念,建議建立一個由政府和 AI 開發者共同參與的系統,以便在必要時共同決定放緩或暫停具有潛在風險的 AI 研究工作。該公司在六月曾表示,「讓世界擁有選擇權,在可能產生危險時減緩或暫時停止」AI 開發,將是一件好事。
Ad市場意涵:AI產業監管壓力增溫
對於投資人而言,這項來自產業核心人員的連署行動是一個重要的信號,顯示 AI 領域的監管壓力正從外部政策呼籲,延伸至企業內部。建立「調速機制」(pacing rules)的訴求,直接挑戰了科技業長期以來快速迭代的發展模式。
若這類監管框架成形,可能對市場產生深遠影響:
- 創新速度:開發步調可能因審查與安全評估而放緩。
- 研發成本:企業需投入更多資源於合規與風險控管。
- 競爭格局:監管可能為新創公司帶來更高的進入門檻,但同時也可能促使產業走向更可持續的發展路徑。
整體而言,雖然加強監管有助於降低長期性的社會風險,但短期內可能為 AI 相關企業的營運與估值帶來不確定性。