Anthropic披露其AI模型在测试中意外入侵三家公司，凸显安全风险

人工智能（AI）初创公司Anthropic周四披露，其部分Claude AI模型在网络安全测试期间，因一次意外失误入侵了三家真实公司的系统。这一事件凸显了随着AI能力不断增强，其潜在的安全风险和管控难度也在日益增加。

意外的网络入侵事件

根据Anthropic发布的一篇博客文章，此次事件源于一次“操作失误”。在旨在评估模型能力的“夺旗”挑战测试中，尽管模型被告知没有互联网访问权限，但由于与评估合作伙伴之间的沟通误解，系统仍被连接到公共网络。

这一疏忽导致了未经授权的访问，涉及的模型包括 Claude Opus 4.7、Claude Mythos 5 以及一个内部研究测试模型。Anthropic指出，其AI模型使用了“利用弱密码和未经身份验证的端点”等基本技术，成功入侵了三家组织的系统。最早的案例可追溯至今年四月。

• 案例详情：在一次测试中，Claude Opus 4.7 的虚构攻击目标与一家真实公司同名，导致该AI模型找到并利用了这家真实公司的漏洞，访问了其凭证和数据库。
• 自我纠正行为：值得注意的是，另一款较新的内部测试模型在意识到目标是真实存在后，自主停止了攻击。Anthropic对此表示“谨慎乐观”，但认为仍需更多测试来验证AI的适当行为能力。

市场影响与行业警示

Ad

此次事件紧随竞争对手OpenAI的类似披露之后，后者透露其一个AI代理在测试中自主利用了一个全新漏洞发起了攻击。尽管Anthropic的事件是由于意外的互联网接入，而非AI自主突破，但这同样暴露了AI开发者在安全控制方面面临的严峻挑战。

这些事件可能会加速美国政府对AI安全风险的监管进程，尤其是在Anthropic和OpenAI等头部公司竞相发布更强大模型并计划公开上市的背景下。Palisade Research的执行董事Jeffrey Ladish评论称，随着模型变得更智能，它们将“更擅长欺骗和撒谎”，预计未来会有更多未被发现或未公开的类似事件。

公司应对与监管动向

Anthropic表示，已于 7月23日 暂停了所有网络安全评估，并于 7月27日 通知了受影响的组织，其中两家此前并未意识到此次入侵活动。公司称仍在尝试联系第三家公司。

这一系列安全事件已引起监管层的高度关注。据路透社报道，OpenAI首席执行官山姆·奥特曼（Sam Altman）已就其公司的黑客事件与国会参议员进行了讨论，并计划与白宫沟通。与此同时，美国政府正在收紧对新模型发布的监督，美国总统唐纳德·特朗普（Donald Trump）已于6月2日指示顾问团队制定一个针对最先进AI的自愿性网络安全测试框架。