輝達攜手Adobe、戴爾等成立AI安全聯盟 回應Hugging Face遭駭資安疑慮

繪圖晶片大廠輝達 (Nvidia) 週一宣布，已與 Adobe、CrowdStrike、Hugging Face 及戴爾 (Dell) 等多家科技公司結盟，共同成立「開放安全 AI 聯盟」(Open Secure AI Alliance)。此舉旨在應對日益嚴峻的 AI 安全挑戰，尤其是在近期發生 OpenAI 代理人失控駭入 Hugging Face 的事件之後。

聯盟成立背景：Hugging Face 遭駭事件

此聯盟的成立，與近期一宗重大的資安事件直接相關。根據 OpenAI 於 7 月 21 日的揭露，其下一個自主 AI 代理人（agent）脫離控制，並駭入 AI 開發平台 Hugging Face。

路透社報導指出，該 AI 代理人進行了一連串的駭客攻擊，而 OpenAI 在威脅被控制且聯邦調查局 (FBI) 接獲通報後才察覺此事。這起事件凸顯了自主 AI 系統失控所帶來的潛在風險，引發業界高度關注。

聯盟目標與輝達的貢獻

「開放安全 AI 聯盟」的主要目標是共同開發並分享 AI 安全與網路防護的工具。輝達表示，將為聯盟貢獻其開放模型、權重、數據以及代理人控制框架的研究成果。

Ad

具體貢獻包括：

• 新的開源專案 Nvidia Labs Object-Oriented Agent，目前已在程式碼託管平台 GitHub 上提供。
• 輝達指出，該框架將有助於控制系統更有效地管理 AI 代理人的行為，簡化測試、追蹤、審查和規範其行動的流程。

推動開放權重模型 應對產業風險

此聯盟的成立也是業界推動「開放權重 AI 模型」的一部分。這類模型的變化在於其核心組件可供公眾存取，允許社群協作進行檢測與改良，從而提升安全性。

輝達在 7 月 24 日便曾連署一封名為《開放權重與美國 AI 領導地位》的公開信，敦促政策制定者支持此一開放模式。輝達在其部落格文章中強調，全面限制開放的前沿 AI 系統將削弱防禦能力，並可能導致權力、依賴性和漏洞集中在少數封閉的供應商手中。