Story

OpenAI因下一代模型“Astra”具备自主网络攻击能力而暂停部分开发

ENTHMSVIIDZHZH-TWJAKOHI
Aug 7, 20261 min read
OpenAI因下一代模型“Astra”具备自主网络攻击能力而暂停部分开发
Text size
Background

人工智能研究公司OpenAI周四表示,由于其下一代AI模型在初步测试中表现出可能执行复杂网络攻击的自主能力,公司已暂停该模型的部分内部开发工作。这款代号为“Astra”的模型被发现具备了可能触及公司内部“关键”风险等级的先进编程与黑客技能。

模型能力触及“关键”风险门槛

根据OpenAI自我设定的安全框架,当一个AI系统能够独立发现“零日”软件漏洞,或在无人指导的情况下对安全网络发起端到端攻击时,其风险等级即达到“关键”级别。OpenAI透露,其之前的技术迭代版本,如GPT-5.6-Sol,最高风险评级仅为“高”级,这凸显了“Astra”在能力上的显著跃升。

为应对这一潜在风险,OpenAI已采取多项预防性安全措施。公司强调,“Astra”模型尚未发布,也与近期备受关注的Hugging Face等AI安全漏洞事件无关。

OpenAI启动严格安全审查

针对“Astra”模型展现出的高级能力,OpenAI已启动了一系列严格的安全协议,旨在控制潜在风险。具体措施包括:

Sample IUX Markets – In-articleAd
  • 暂停部分工作流程:缺乏严格安全控制的内部开发流程已被暂停。
  • 限制开发环境:目前,“Astra”的开发仅限于受到严密保护的隔离环境中进行。
  • 实施实时拦截:公司正在部署新的自动化监控工具,以追踪模型的底层推理过程,从而能够即时关停任何异常或危险的行为。
  • 引入外部审计:OpenAI正邀请政府机构和第三方安全研究院对该模型进行压力测试。

行业影响与背景

此次开发暂停事件凸显了硅谷在加速商业化AI技术与控制其潜在风险之间的紧张关系。随着AI模型的能力日益强大,如何确保其安全可控已成为整个行业面临的核心挑战。

OpenAI方面将此举描述为其内部安全护栏有效运作的证明,即在技术向公众或企业客户部署之前,成功识别并拦截了危险的能力。这一事件也为投资者和市场观察者提供了一个重要信号,即领先的AI公司正日益重视并主动管理前沿技术带来的新型风险。

Back to latest news

LATEST