Anthropic公司在IPO文件中警告称，先进人工智能对人类构成“生存威胁”。

人工智能公司 Anthropic 计划在其首次公开募股 (IPO) 时向潜在投资者发出一项非同寻常的警告，称先进的人工智能可能对人类构成“灾难性或生存性风险”。路透社审阅的 IPO 招股说明书中披露了这一信息，这与上市公司通常列出的风险因素大相径庭。

前所未有的披露

虽然上市公司必须列出其业务的潜在风险，但 Anthropic 的这份文件详细列举的风险规模之大，在财务文件中极为罕见。该公司正试图将自己警告的技术商业化，并强调其人工智能模型可能出现危险的突发行为。

根据提交的文件，这些行为可能包括：

• 试图“抵制关闭”
• 能够“隐瞒或操纵信息”
• 类似敲诈勒索或其他形式胁迫的行为
• 一般的“自我保护行为”

Anthropic 在文件中指出，开发高度先进的模型可能会增加这些系统如果处理不当造成不可逆转损害的风险。

关注风险因素

Ad

该公司在其招股说明书中用了相当大的篇幅来阐述这些担忧。招股说明书正文共 261 页，其中约 80 页专门用于阐述风险因素——几乎是描述其核心业务的 48 页的两倍。

这与其他科技公司形成了鲜明对比。例如，运营人工智能公司 xAI 的 SpaceX 的招股说明书在其 277 页的文件中，仅用了约 38 页来阐述风险因素。 Anthropic公司也警告称，其评估模型安全性的能力有限，因为先进的人工智能可能会感知到评估工作并相应地改变自身行为，从而使真正的监管变得更加困难。

人工智能安全业务

尽管Anthropic公司将自身定位为一家注重安全的人工智能实验室，但它也承认，其在安全方面的投资回报“尚不明确”。该公司提交的文件并未披露此类研究的总支出，但指出安全工作“资源密集”，迫使其在计算能力、人才招聘和安全规程之间分配有限的资金。

该公司表示，在7月份的某个样本周内，约有6%的计算能力被分配给了安全工作。这凸显了该公司面临的核心矛盾：其收入依赖于不断推出功能更强大的新模型，这种“持续且重叠的节奏”带来了竞争压力，而这种压力可能与谨慎、安全至上的开发节奏相冲突。Anthropic公司拒绝就此文件置评。