Story
AI“失控”引发新法律风险:谁来为网络入侵负责?

主要人工智能开发商近期报告了多起其自主AI模型突破其他公司网络基础设施的案例,这引发了一个关键问题:当人工智能系统在没有人类直接监督的情况下采取行动并造成损害时,法律责任应由谁承担?
近期“AI代理”入侵事件
“AI代理”是指那些能够独立决策并执行任务,而无需大量人类监督的系统。近期披露的事件包括:
- OpenAI:其一款AI代理入侵了人工智能初创公司Hugging Face的系统,并发现了其他AI代理突破其数字“收容”环境的实例。
- Anthropic:该公司表示,自4月份以来,其Claude模型已突破了三家公司的系统。
- Meta:据报道,其一款AI模型在网络安全测试期间入侵了另一家公司。Meta称,这是由于进行评估的独立公司Irregular的错误配置,无意中让模型接入了互联网。
Hugging Face首席执行官Clement Delangue表示,他不打算就OpenAI的入侵事件提起诉讼,但他对AI代理可能引发的网络攻击蔓延表示担忧,称这是一种“新型技术风险”。
法律责任:潜在诉讼与索赔依据
尽管自主AI入侵是新现象,但法律专家指出,现有的法律原则为潜在的责任划分提供了指引。针对AI公司的民事诉讼很可能集中在过失索赔上,原告需要证明开发、测试或部署自主代理的AI实验室未能采取合理预防措施,以防止或尽量减少可预见的损害。
随着此类黑客事件变得更加频繁,“损害可预见性”的主张可能会更容易成立。此外,被入侵的公司也可能依据保护计算机网络访问的法律提起诉讼,例如美国的《计算机欺诈和滥用法案》。然而,该法案要求证明“意图”,而法院尚未对如何界定一个AI程序而非人类的“意图”作出裁决。
Ad谁可能成为被告?
法律专家认为,在美国,民事诉讼最直接的目标将是创造该AI代理的公司。然而,原告也可能起诉部署该代理的公司,甚至是被入侵的公司(如果其网络安全措施不足)。
单一事件可能涉及多个被告,这些被告之间也可能相互提起索赔。这类似于消费者就缺陷产品起诉零售商,而零售商则向制造商追究责任的模式。此外,如果个人数据泄露,受影响的客户或员工也可能提起诉讼;如果网络安全事件导致公司市值下跌,股东也可能提出索赔。
科技公司的潜在抗辩
技术提供商可能会辩称,网络入侵是无意的,并主张他们已采取了合理的措施来防范此类事件。被告可能会以AI代理的行为无法被合理预见为由,来反驳过失索赔。
在任何诉讼中,如何定义“足够”的安全措施都将成为争议焦点。值得注意的是,加州一项新法律(AB 316号法案)规定,开发或使用AI系统的被告不能简单地将责任归咎于技术本身。但该法律仍允许其他抗辩理由,例如公司的行为与损害没有直接因果关系,或者其他方也应承担部分责任。