Anthropic社、IPO申請書類で自律型AIによる「予測不可能な」法的リスクについて警告

AI企業Anthropicは、自社の自律型AI技術に起因する潜在的な法的責任を重大なリスク要因として認識しており、新規株式公開（IPO）目論見書の中で、不正なAIエージェントの行動によって予期せぬ法的請求に直面する可能性があると警告している。ロイターが入手した文書によると、これは同社がIPO目論見書で明らかにした。

「エージェント型AI」の未解決の責任

Anthropicは、顧客システムへの深いアクセス権限を持ち、長期間にわたって自律的に動作するように設計されたエージェント型AI技術を開発している。同社は目論見書の中で、これらの機能は、AIがエラーを起こしたり悪用されたりした場合に、現実世界に重大な影響を及ぼす可能性を秘めていることを認めている。

同社は特に、不正な金融取引やデータ削除といった、取り返しのつかない事態のリスクを挙げている。目論見書によると、Anthropicの責任に関する契約上の制限は、自律型エージェントに起因する請求に対して「執行可能または十分ではない」可能性があり、IPO準備を進める同社にとって、財務面および法的な面で大きな不確実性をもたらしている。

より広範な規制上の問題

今回の開示は、テクノロジーおよび法曹界における重要な未解決の議論、すなわち自律型AIシステムによって引き起こされた損害に対する責任は誰にあるのかという問題を浮き彫りにしています。Anthropic社は提出書類の中で、以下のような重要な法的問題が未解決のままであると指摘しています。

Ad

• AIエージェントによる行為は、法的に製品、サービス、またはその他のカテゴリーのいずれに分類されるのか。
• AIエージェントの行為は、どのような状況下で、それを導入したユーザーを法的に拘束する可能性があるのか。

この不確実性は、米国連邦取引委員会（FTC）のアンドリュー・ファーガソン委員長によっても指摘されており、同委員長は最近、AIツールによって引き起こされた損害に対する責任は、AI自体ではなく、開発者またはユーザーに帰属する可能性が高いと示唆しました。AIの法的扱いは、ユーザー生成コンテンツに関してオンラインプラットフォームに歴史的に認められてきた免責とは異なり、近年、この免責は法的課題に直面し始めています。

有害なモデル使用に関する開示

Anthropicは、自律型エージェント以外にも、既存の安全対策にもかかわらず、同社のAIモデルが「自傷行為、他者への暴力行為、その他の有害な結果につながる可能性のある方法」で使用されてきたことを開示しました。これは、競合他社であるOpenAIが直面している法的課題と類似しています。OpenAIは、ChatGPTが精神衛生上の問題や自殺と関連付けられているとして、複数の訴訟で弁護活動を行っています。

近年、裁判所はテクノロジー企業に対し、プラットフォームの設計責任を問う姿勢を示しており、Meta PlatformsとGoogleがソーシャルメディア製品の設計における過失責任を問われた画期的な裁判はその好例です。この判例は、AIモデルがユーザーに有害な結果をもたらす場合、AI開発者にとって厳しい環境となる可能性を示唆しています。