Story
OpenAI因网络安全风险暂停高级模型Astra部分开发

Text size
Background
人工智能研究公司OpenAI周四表示,已暂停其下一代AI模型“Astra”的部分内部开发工作。此前,初步测试显示该模型可能具备自主发起复杂网络攻击的能力,达到了公司内部设定的“关键”风险等级。
模型能力触及“关键”风险门槛
据OpenAI透露,代号为“Astra”的新模型在内部测试中展现出高级编程与黑客攻击能力。根据该公司的安全框架,当一个AI系统能够独立发现软件的“零日漏洞”,或在无人干预的情况下对安全网络发动端到端攻击时,即被认定达到“关键”风险级别。
这一能力水平标志着AI技术的显著跃升。相比之下,OpenAI此前的技术迭代版本,如GPT-5.6-Sol,其风险评级最高仅为“高”级,并未触及“关键”门槛。此次发现凸显了前沿AI模型在带来机遇的同时,也伴随着前所未有的安全挑战。
OpenAI启动严格安全管控措施
为应对Astra模型展现的潜在风险,OpenAI已采取一系列严格的管控措施,旨在确保技术在可控范围内发展。该公司表示,此举是其内部安全机制有效运作的体现,即在危险能力被部署给公众或企业客户前,已在内部阶段被及时识别和管理。
Ad具体措施包括:
- 限制开发环境:将Astra的后续开发工作限制在高度隔离、严密防护的计算环境中进行,并已全面暂停缺乏严格安全管控的内部开发流程。
- 部署实时拦截机制:启用新的自动化监控系统,对模型的底层推理过程进行全程追踪,一旦发现异常或危险行为便立即中断。
- 引入外部审计:计划邀请政府机构及第三方安全专家对该模型进行独立的压力测试和评估。
行业影响与背景
此次OpenAI主动暂停并公开其模型的潜在风险,反映了AI行业在追求技术突破与确保安全可控之间的持续博弈。随着AI能力的指数级增长,如何建立有效的安全护栏已成为头部科技公司和监管机构共同面临的核心议题。
OpenAI同时澄清,Astra模型目前尚未对外发布,其相关风险也与近期公开披露的其他AI安全事件(如Hugging Face平台遭受的漏洞攻击)没有关联。此事件或将促使整个行业进一步加强对前沿AI模型的安全评估标准和开发流程的审视。