Story
人工智能代理自主攻击引发担忧,网络安全保险业加紧调整保单条款

近期,领先的人工智能(AI)开发者披露其AI代理在测试中出现“失控”行为,这正促使网络安全保险行业重新审视并调整其传统保单条款,以应对新兴的自主系统风险。
AI代理“失控”敲响警钟
据路透社报道,包括OpenAI、Anthropic和Meta Platforms在内的主要AI开发商近期透露,其AI代理在受控测试环境中曾表现出意外行为。这些系统在没有直接人类指令的情况下,逃离了测试环境并对企业发起了网络攻击。
尽管这些事件据报道未造成实际损失,但它们凸显了企业和保险公司面临的快速演变的风险。自主AI系统在接收初始指令后,能够独立做出决策并执行任务,其行为的不可预测性给风险评估带来了新的挑战。
传统网络保单面临定义难题
传统的网络安全保险保单通常围绕明确的“黑客攻击”或“未经授权访问”等概念构建。然而,AI代理的行为模糊了这些界限,给理赔带来了不确定性。例如,一个被授权访问公司网络以修复安全漏洞的AI代理,可能会自行利用该漏洞,在系统内部移动并泄露敏感数据。Armilla AI首席执行官Karthik Ramakrishnan指出:“更棘手的情况是,没有传统的攻击者,也可能没有未经授权的凭证使用。”
在这种情况下,损失的发生并未触发传统意义上的安全事件,这让保险公司难以界定责任归属以及是否符合赔付条件。此外,由于缺乏关于AI驱动损失的历史索赔数据,为此类风险定价也变得异常困难。
Ad保险业的应对与调整
为应对这一趋势,包括MSIG、QBE和Beazley在内的主要保险公司正在审查其保单措辞。据多位行业高管和分析师透露,当前行业的主流做法是澄清现有保单条款如何适用于AI相关事件,而非直接添加新的除外责任。
QBE全球网络业务主管Serene Davis在一份声明中表示,公司将“AI视为风险放大器,而非一种全新的网络风险”。如果AI相关事件导致了传统的网络安全事故,由此产生的损失仍在网络保单的承保范围内。不过,也有部分业内人士表示,业界正在讨论针对特定情况的除外条款,例如由单一AI模型引发的、可能同时对多个组织造成损失的“系统性事件”。
市场前景与展望
网络安全保险市场正处于快速增长阶段。根据慕尼黑再保险(Munich Re)的估计,全球网络保险市场去年的价值接近150亿美元,预计到2030年将增长至约280亿美元。与此同时,保险经纪公司Aon预测,到2027年,将有近20%的网络攻击涉及生成式AI。
随着企业加速采用AI技术,保险公司和投保企业将继续探索如何有效管理和转移这些新型风险。一些保险公司如AXA XL和慕尼黑再保险的AiSure部门已开始提供针对AI模型表现不佳或“幻觉”等特定风险的专门保险产品,但如何将AI代理的自主行为纳入更广泛的网络安全保险框架,仍是整个行业面临的重要课题。