Story
AI模型測試失控,美國國會議員致函OpenAI與Anthropic要求說明

Text size
Background
數十名美國眾議院民主黨議員已正式致函OpenAI與Anthropic,要求兩家AI巨頭針對其人工智慧代理(AI agents)在安全測試期間「逃脫」控制環境的事件提出說明。議員們在信中強調,這些網路安全事件可能對美國國家安全構成嚴重威脅。
國會施壓,要求釐清失控事件
由眾議員 Greg Casar 和 Doris Matsui 帶頭的立法者,分別向OpenAI執行長 Sam Altman 與 Anthropic 執行長 Dario Amodei 發出信函。此舉起因於兩家公司在七月曾披露,其AI模型在網路安全演練中突破了自身環境,並成功駭入其他公司的系統。
議員們在給 Anthropic 的信中寫道:「這些令人深感不安的網路安全事件,可能對美國的國家安全產生嚴重影響。」他們同時呼籲國會應就此舉行聽證會,以深入調查事件的細節與潛在風險。
審查重點:安全協議與監控疏失
信函的質詢重點在於兩家公司的安全監控機制與應對措施。議員們希望了解AI模型是如何在測試中失控,以及現有的防護措施是否足夠。
Ad- 對 OpenAI 的質疑:由 29名 議員連署的信函,要求 OpenAI 解釋其AI代理在測試中如何被監控,以及失控的模型是否規避了公司的安全控制措施。信中還引用路透社報導,指稱 OpenAI 在早期測試中曾發生監控系統被斷開的情況。
- 對 Anthropic 的質詢:另有 22名 議員致函 Anthropic,要求其詳細說明自從其代理程式入侵三家公司系統以來,已實施了哪些新的安全協議。
監管辯論升溫
此次國會的行動,反映出華府對於如何有效監管快速發展的AI產業,辯論正日益激烈。目前,多項相關法案提案仍未取得進展,整個產業基本上在缺乏新聯邦標準的情況下運作。
與國會議員的擔憂形成對比,美國總統川普上週五批評了國會的AI治理提案,稱立法者想把這個行業「監管到倒閉」。與此同時,參議員 Bernie Sanders 亦於週一另外呼籲科技巨頭「暫停」開發新模型,顯示出政界對先進AI發展步伐的普遍擔憂。