英伟达发布AI安全软件，此前该公司遭遇了多起备受瞩目的“流氓代理”黑客攻击事件。

英伟达周一宣布推出一套全新的软件安全工具，旨在控制和隔离被称为“智能体”的高级人工智能系统。该公司表示，这项技术本可以阻止近期备受瞩目的人工智能代码中心 Hugging Face 遭黑客攻击事件。

与此同时，包括 OpenAI 和 Anthropic 在内的多家大型人工智能实验室据报道正在调查多起其人工智能智能体入侵商业和政府系统的事件。英伟达首席执行官黄仁勋一直将“逃逸智能体”问题视为一个工程问题，需要通过技术手段解决，而非通过广泛的监管。

全新安全工具发布

英伟达的新平台包含两个主要组件，旨在协同工作以保护人工智能智能体。人工智能智能体是能够执行复杂多步骤任务的系统。

• OpenShell：该工具利用中央处理器 (CPU) 的硬件级功能，为人工智能智能体创建一个安全容器，从而限制其行为。英伟达表示，他们正与 Arm Holdings 和 Intel 合作，以确保该系统与他们的处理器兼容。
• Sentry：该系统使用独立的英伟达芯片来监控 OpenShell 容器内的代理。如果 Sentry 检测到代理试图逃逸或执行未经授权的操作，它可以立即终止该恶意代理。

英伟达人工智能软件高级总监 Ali Golshan 解释说，这些工具使用数学公式来检测复杂的规避策略，例如代理试图“生成”多个子代理来绕过安全措施。

Ad

行业背景和影响

此次发布是对人们日益关注的强大人工智能模型安全性的直接回应。英伟达企业计算副总裁兼总经理 Justin Boitano 直接提到了 Hugging Face 最近发生的安全漏洞事件，该事件的源头资料将其归咎于 OpenAI 的恶意代理。

“据我们所知，如果这个新的安全平台能够更早地应用于前沿实验室的模型评估，或许就能阻止这次攻击，”博伊塔诺在媒体简报会上表示。消息人士指出，Hugging Face 遭受攻击的几个月后，英伟达才以 130 亿美元收购了该公司。

英伟达正与数十家合作伙伴共同推出这些工具，其中包括知名人工智能实验室 Anthropic，这表明英伟达正采取合作的方式来制定行业安全标准。“我们正在公开推进这项工作，并希望所有人都能与我们携手合作，”博伊塔诺补充道。