英偉達發布AI安全軟體，此前該公司遭遇了多起備受矚目的「流氓代理」駭客攻擊事件。

英偉達週一宣布推出一套全新的軟體安全工具，旨在控制和隔離被稱為「智能體」的高級人工智慧系統。該公司表示，這項技術本來可以阻止近期備受矚目的人工智慧程式碼中心 Hugging Face 遭駭客攻擊事件。

同時，包括 OpenAI 和 Anthropic 在內的多家大型人工智慧實驗室據報正在調查多起其人工智慧智能體入侵商業和政府系統的事件。英偉達執行長黃仁勳一直將「逃逸智能體」問題視為工程問題，需要透過技術方法解決，而非透過廣泛的監管。

全新安全工具發布

英偉達的新平台包含兩個主要組件，旨在協同工作以保護人工智慧智慧體。人工智慧智能體是能夠執行複雜多步驟任務的系統。

• OpenShell：該工具利用中央處理器 (CPU) 的硬體級功能，為人工智慧智慧體創建一個安全容器，從而限制其行為。英偉達表示，他們正與 Arm Holdings 和 Intel 合作，以確保系統與他們的處理器相容。
• Sentry：此系統使用獨立的英偉達晶片來監控 OpenShell 容器內的代理程式。如果 Sentry 偵測到代理程式試圖逃逸或執行未經授權的操作，它可以立即終止該惡意代理程式。

英偉達人工智慧軟體高級總監 Ali Golshan 解釋說，這些工具使用數學公式來檢測複雜的規避策略，例如代理試圖「產生」多個子代理來繞過安全措施。

Ad

產業背景與影響

此次發布是對人們日益關注的強大人工智慧模型安全性的直接回應。英偉達企業運算副總裁兼總經理 Justin Boitano 直接提到了 Hugging Face 最近發生的安全漏洞事件，該事件的源頭資料將其歸咎於 OpenAI 的惡意代理。

「據我們所知，如果這個新的安全平台能夠更早應用於前沿實驗室的模型評估，或許就能阻止這次攻擊，」博伊塔諾在媒體簡報會上表示。消息人士指出，Hugging Face 遭受攻擊的幾個月後，英偉達才以 130 億美元收購了該公司。

英偉達正與數十家合作夥伴共同推出這些工具，其中包括知名人工智慧實驗室 Anthropic，這表明英偉達正採取合作的方式來制定產業安全標準。 「我們正在公開推進這項工作，並希望所有人都能與我們攜手合作，」博伊塔諾補充道。