Story
OpenAI因Astra模型存在漏洞利用风险，限制其网络安全功能
Text size
Background
人工智能研究公司OpenAI周二表示，其即将发布的新款Astra人工智能模型将限制其高级网络安全功能的访问权限。此前公司评估发现，该模型能够自主识别并开发“零日漏洞”（zero-day exploits），无需人类干预。
跨越“网络安全关键门槛”
根据OpenAI的“准备框架”（Preparedness Framework），Astra是首个达到“网络安全关键门槛”的模型。这意味着该模型具备在没有人类逐步指导的情况下，发现先前未知的安全缺陷，并开发出利用这些缺陷攻击受保护系统的能力。
在内部评估期间，Astra成功发现并利用了两个零日漏洞，并将其组合成一个攻击链。鉴于其强大的能力，OpenAI透露，已于今年8月暂停了部分关于Astra的内部工作，以整合更严格的保障措施。
实施分阶段发布与安全防护
为控制潜在风险，OpenAI将采取谨慎的发布策略。公司将首先把模型执行高级网络安全相关任务的能力限制在一小部分测试人员中。随后，将通过其“Daybreak Blue”项目，向更大范围的用户提供用于防御性网络安全目的的访问权限。
AdOpenAI已为该模型增加了更强的安全“护栏”，以防止滥用，具体措施包括：
- 在内部部署期间监控模型的未授权行为。
- 自动停止潜在的未授权活动。
- 该模型对网络“越狱”请求的拒绝率高达91.5%，远高于GPT-5.6 Sol模型的59%。
市场影响与展望
此举凸显了前沿人工智能技术在网络安全领域的“双刃剑”效应，既是强大的防御工具，也可能成为潜在的攻击武器。OpenAI的谨慎态度反映出行业对AI模型滥用风险的日益重视，可能为其他开发者在部署高能力模型时树立新的安全标准。
OpenAI也承认，增强的监控系统可能会偶尔将合法活动标记为潜在的滥用行为，从而导致工作被减慢、暂停或停止。公司表示，将在模型发布时通过其“系统卡”（system card）分享更多关于安全性和对齐测试的详细信息。