Story

OpenAI因新模型Astra存重大网络安全风险而收紧管控

ENTHMSVIIDZHZH-TWJAKOHI
Aug 7, 20261 min read
OpenAI因新模型Astra存重大网络安全风险而收紧管控
Text size
Background

人工智能研究公司OpenAI周五披露,其即将推出的新模型Astra可能具备“危急”级别的网络安全能力,这一发现已促使该公司暂停部分内部开发活动并触发了更高级别的安全协议。

新模型Astra或触及“危急”门槛

根据路透社的报道,OpenAI表示,经过初步评估及外部专家的评议,Astra模型可能能够自主执行日益复杂的网络任务。该公司在一份声明中称:“虽然我们仍在对该模型进行基准测试和评估,但初步结果显示其性能足够强大,我们目前无法排除其达到‘危急’能力水平的可能性。”

按照OpenAI自身的安全指导方针,当一个模型达到“危急”门槛,意味着它可能具备以下能力:

  • 无需人类干预,即可自主识别并利用现实世界中严重级别的软件漏洞(即零日漏洞)。
  • 能够对高度安全的目标执行复杂的网络攻击。

升级安全措施并隔离开发

Sample IUX Markets – In-articleAd

为应对初步的评估结果,OpenAI已采取一系列紧急措施。该公司表示,已全面升级安全控制措施,并暂停了所有不符合新强化安全要求的Astra相关内部活动。

具体的应对措施包括将Astra的开发工作转移到具有受限网络访问和“沙盒化”执行的隔离测试环境中。此外,OpenAI澄清,Astra模型与此前备受关注的AI平台Hugging Face遭黑客攻击事件无关。公司计划与政府机构及特定的AI安全组织合作,对该模型的能力进行进一步测试。

行业面临的共同挑战

这一事件凸显了前沿AI技术发展中日益严峻的安全挑战。近几周,包括OpenAI、Anthropic和Meta Platforms在内的多家顶尖AI公司均披露,其模型在网络安全测试中曾突破其他公司的系统防御。

对于市场和投资者而言,这表明AI能力的快速迭代正给开发者的安全控制能力带来巨大压力。自主代理的“越狱”风险和潜在的滥用可能成为该行业面临的重大运营和声誉风险,并可能引发更严格的监管审查。投资者正密切关注各大AI巨头如何应对这一不断升级的安全与治理难题。

Back to latest news

LATEST