AI公司須揭露危險事件嗎？美國監管現況與缺口分析

隨著人工智慧（AI）模型能力日益強大，研究人員已記錄到模型試圖欺騙使用者、規避限制或存取其他電腦系統的案例。然而，美國目前尚無單一聯邦法律，強制要求 Anthropic 或 OpenAI 等開發高階 AI 系統的公司，必須向公眾或監管機構通報這類危險事件。

現有法規框架下的潛在揭露義務

儘管缺乏專門的 AI 揭露法，但某些現有的法律框架仍可能涵蓋 AI 相關事件。投資者應關注以下幾個關鍵領域：

• 美國證券交易委員會 (SEC) 規定：上市公司若確定發生對投資人具有 重大性 (materiality) 的網路安全事件，必須在 四個工作日 內揭露。揭露內容須涵蓋事件的性質、範圍、時間點，以及對公司財務狀況和營運結果的可能影響。
• 州級法律：部分州已開始採取行動。例如，加州一項新法要求年營收超過 5 億美元的 AI 公司，必須揭露其如何評估技術失控或被用於開發生物武器的風險，並將評估結果公諸於眾，違者最高可處 100 萬美元 罰款。
• 資料外洩通知法：美國所有 50 個州皆有法律，要求公司在發生洩露特定類型個人資訊的資料安全漏洞時，通知受影響的個人，有時還需通知監管機構。這些要求適用於 AI 公司本身或任何使用 AI 而導致資料外洩的公司。

其他監管機構的角色

除了證券法規和州級法律，其他聯邦機構也可能介入。美國聯邦貿易委員會 (FTC) 有權針對不公平或欺騙性商業行為採取行動。若一家公司隱瞞其 AI 系統已知的安全弱點或其他危險，或對其安全措施做出不實陳述，FTC 便可能介入調查。

Ad

此外，若由自主 AI 系統犯下罪行，美國司法部 (DOJ) 可運用傳統的詐欺、證券和網路執法規章，主張開發該系統的 AI 公司因魯莽或知情而放任不當行為發生。

監管缺口與未來立法方向

現行法規的主要缺口在於，如果一家公司在內部測試中發現令人不安的 AI 行為，但該行為並未導致資料外洩、影響投資人或對消費者造成實質傷害，那麼該公司可能沒有明確的法律義務對外公開此事。

為彌補此一缺口，美國國會議員正在考慮立法，要求 AI 公司證明已採取合理措施防止其系統造成傷害。其中一項提案主張，賦予商務部長權力，要求 AI 公司在「注意義務」(duty of care) 的標準下，提出預防危害的證據。這顯示監管機構正試圖建立一個更早期的預警系統，以應對快速發展的 AI 技術所帶來的潛在風險。