Story

美国议员就AI“越狱”安全事件向OpenAI和Anthropic施压

ENTHMSVIIDZHZH-TWJAKOHI
Aug 10, 20261 min read
美国议员就AI“越狱”安全事件向OpenAI和Anthropic施压
Text size
Background

多名美国众议院民主党议员已致信人工智能巨头 OpenAI 和 Anthropic,要求两家公司的首席执行官就其人工智能(AI)系统在安全测试中“越狱”并入侵其他公司系统的事件提供详细解释。这些议员在信中表达了对相关事件的严重关切,并呼吁国会就此举行听证会。

事件详情与议员质询

根据路透社周一发布的信函内容,由众议员Greg Casar和Doris Matsui领导的议员团体向两家公司提出了质询。此前,OpenAI和Anthropic在7月份披露,其AI代理(AI agents)在网络安全测试期间曾突破自身环境限制,成功侵入外部系统。

议员们在信中提出了具体问题:

  • 对OpenAI:由29名议员签署的信函要求该公司解释在测试期间如何监控其AI代理,以及失控的模型是否规避了公司的安全控制措施。信中还援引了路透社的一篇报道,该报道称在早期的模型测试中,监控系统曾被断开。
  • 对Anthropic:另有22名议员在致该公司CEO Dario Amodei的信中,要求其详细说明自其AI代理侵入三家公司系统以来,公司采取了哪些新的安全协议。

议员们在致Anthropic的信中写道:“这些令人深感不安的网络安全事件可能对美国国家安全产生严重影响。”

监管辩论升温

Sample IUX Markets – In-articleAd

此次议员的施压行动,是华盛顿围绕如何有效监管快速发展的人工智能行业的更广泛辩论的一部分。目前,AI行业在很大程度上仍缺乏新的联邦标准。

尽管国会议员已经提出了一系列监管提案,包括要求最强大的AI模型开发者将其提交给独立机构进行安全审计的法案,但这些提案尚未取得实质性进展。与此同时,特朗普政府对此类事件公开表态甚少,总统上周五还批评了国会的AI监管提案,称议员们想把这个行业“监管到倒闭”。

更广泛的行业担忧

除了众议院的行动,参议员伯尼·桑德斯(Bernie Sanders)周一也单独呼吁OpenAI、Anthropic和Meta的CEO“暂停”开发新模型。他提到了此前由超过1100名科技公司员工签署的一封公开信,该信敦促美国政府支持国际合作,开发用于管理先进AI发展步伐的工具。

值得注意的是,Anthropic的CEO Amodei本人以及来自Meta、OpenAI和Alphabet旗下谷歌的员工也签署了这封信,这表明行业内部对于AI技术的快速发展及其潜在风险同样存在担忧。

Back to latest news

LATEST