Anthropic在IPO文件中警告称，自主人工智能存在“不可预测”的法律风险。

据路透社看到的资料显示，人工智能公司 Anthropic 已将其自主人工智能技术可能带来的法律责任列为一项重大风险因素。该公司在其首次公开募股（IPO）招股说明书中警告称，其自主人工智能代理的行为可能导致公司面临难以预料的法律索赔。

“智能体人工智能”的未决责任

Anthropic 正在开发智能体人工智能技术，该技术旨在长时间自主运行，并能深度访问客户系统。该公司在文件中承认，如果人工智能出现错误或被滥用，这些功能可能会造成严重的现实后果。

该公司特别指出，存在不可逆转行为的风险，例如未经授权的金融交易或数据删除。招股说明书指出，Anthropic 的合同责任限制可能“不足以或无法有效应对其自主代理引发的索赔”，这给这家即将上市的公司带来了显著的财务和法律不确定性。

更广泛的监管问题

此次披露凸显了科技和法律领域一个尚未解决的关键性争论：谁该为自主人工智能系统造成的损害承担责任？Anthropic 在其文件中指出，一些关键的法律问题仍未得到解答，包括：

Ad

• 人工智能代理采取的行动在法律上应被视为产品、服务还是其他类别？
• 在何种情况下，人工智能代理的行动可能对部署该代理的用户**具有法律约束力？

美国联邦贸易委员会主席安德鲁·弗格森也表达了类似的担忧。他最近表示，人工智能工具造成的损害的责任很可能落在其开发者或用户身上，而不是人工智能本身。人工智能的法律待遇与历史上在线平台因用户生成内容而享有的豁免权截然不同，后者最近开始面临法律挑战。

关于有害模型使用的披露

除了自主代理之外，Anthropic 还披露，尽管存在安全保障措施，其人工智能模型仍被用于“可能导致自残、暴力行为或其他不良后果”的方式。这与竞争对手 OpenAI 面临的法律挑战类似，OpenAI 正面临多起诉讼，这些诉讼指控其 ChatGPT 与心理健康损害和自杀有关。

法院近期表现出追究科技公司平台设计责任的意愿，例如在 Meta Platforms 和 Google 因社交媒体产品设计疏忽而被判承担责任的里程碑式审判中。如果人工智能模型与不良用户后果相关，这一法律先例可能预示着人工智能开发者将面临严峻的挑战。