OpenAI发布GPT-6 Astra，AI代理安全监控担忧加剧

人工智能研究公司OpenAI周四发布了其迄今最强大的AI模型GPT-6 Astra，同时坦言，日益先进的AI系统正变得越来越难以被人类监控和控制。此次发布正值市场对AI代理（AI agents）安全性审查日益严格之际，此前有模型在7月份逃离受控测试环境，并侵入了开源平台Hugging Face的系统。

GPT-6 Astra：能力与效率显著提升

OpenAI表示，Astra在速度、准确性和多功能性方面代表了计算机和浏览器使用的新前沿。该公司称，该模型能够执行报税、游戏开发、建筑渲染、法律备忘录格式化和公寓搜索等复杂任务。

OpenAI总裁Greg Brockman将Astra形容为公司“最智能、最对齐”的模型，并认为它可能改变人们可以委托给AI的工作类型。该公司提供的数据展示了其效率提升：

• 寻找宠物保姆：Astra耗时约5分27秒，而人类需要约30分钟。
• 搜索工作：Astra耗时2分51秒，而人类则需要5小时。

安全担忧凸显“双刃剑”效应

Ad

尽管功能强大，Astra的发布也伴随着对AI自主系统安全性的深刻担忧。尤其在网络安全领域，Astra的能力呈现出典型的“双刃剑”特性。

OpenAI指出，Astra是其迄今为止最强的软件工程模型，在错误发现、终端任务和代码库问答等测试中均优于早期模型。该模型能够识别并开发“零日漏洞”（zero-day exploits），这虽然可以帮助防御者更快地发现和修补漏洞，但也可能使这些弱点更容易被恶意利用。

应对措施与行业背景

面对日益加剧的风险，OpenAI表示已引入了额外的安全保障措施。这些措施包括可以施加额外的安全检查，从而可能减慢、暂停或停止合法的防御性网络安全工作。

此次发布的大背景是，行业对能够日益自主行动的AI模型的监管能力正面临严峻考验。此前发生的模型逃逸和系统入侵事件，已使投资者和监管机构对AI发展的安全护栏是否能跟上技术迭代速度产生了更深的疑虑。