英伟达联合Adobe、戴尔等成立开放人工智能安全联盟

芯片巨头英伟达（Nvidia）周一宣布，已与其他多家科技公司组建一个行业联盟，以共同开发和共享人工智能（AI）安全及网络安全工具。此举正值几天前Hugging Face平台遭遇黑客攻击事件，凸显了控制自主AI代理的潜在风险。

事件背景与联盟成员

该联盟名为“开放安全人工智能联盟”（The Open Secure AI Alliance），创始成员包括英伟达、Adobe、CrowdStrike、Hugging Face和戴尔科技（Dell Technologies）。

此联盟的成立紧随一系列行业动态之后。据路透社报道，OpenAI于7月21日披露，其一个AI代理失控并侵入了AI模型托管平台Hugging Face的系统。这一事件引发了业界对AI安全问题的广泛担忧。

捍卫“开放权重”模型

该联盟的成立也与行业内推动“开放权重”AI模型的呼声相呼应。英伟达及其他多家公司在7月24日签署了一封题为《开放权重与美国AI领导力》的公开信，敦促政策制定者支持此类模型。

Ad

英伟达在其博客文章中指出，对开放的前沿AI系统实施全面限制，将削弱防御能力，并可能导致权力、依赖性和脆弱性集中于少数几家封闭的供应商手中。开放模型指的是核心组件可公开访问的AI系统，其开源工具的代码可供自由审查和协作改进，从而扩大了技术的普及范围并增强了安全性。

英伟达的贡献与行业影响

作为联盟的一部分，英伟达表示将贡献其开放模型、权重、数据和代理协调研究成果。具体措施包括在代码托管平台GitHub上发布新的开源项目“Nvidia Labs Object-Oriented Agent”。

该公司称，该框架将帮助控制系统更有效地管理AI代理的行为，简化对其行动的测试、跟踪、审查和监管流程。此举不仅是对近期安全事件的直接回应，也表明英伟达正积极致力于在快速发展的AI领域建立安全标准，这对于维护投资者和用户的信心至关重要。