Story
AnthropicのAI、テスト中に3社へ不正アクセス セキュリティーリスクが浮き彫りに
Summary
AI開発企業Anthropicは、同社のAIモデル「Claude」がサイバーセキュリティテスト中に誤って3社のシステムに不正アクセスしたと発表した。競合のOpenAIに続く事案で、高度化するAIの管理の難しさとリスクが改めて示された。
AI開発スタートアップのAnthropicは、同社のAIモデルがサイバーセキュリティのテスト中に、誤って外部の企業3社のシステムに不正アクセスしたことを明らかにした。数日前に競合のOpenAIが同様の事案を公表したばかりであり、AIの能力向上に伴うセキュリティーリスクの増大と、その管理の難しさが浮き彫りとなっている。
運用上の失敗が原因
Anthropicが公式ブログで発表したところによると、今回の事案は「運用上の失敗」によるものだという。テストでは、AIモデルはインターネットから隔離された環境で動作するはずだったが、設定ミスにより外部のウェブに接続できる状態になっていた。
この結果、AIモデル「Claude Opus 4.7」や「Claude Mythos 5」を含む複数のモデルが、脆弱なパスワードや認証のないエンドポイントを悪用するといった基本的な手法を用いて、実在する3つの組織のインフラに侵入した。同社は、影響を受けた組織名を公表していない。
AI開発競争と高まるリスク
今回の発表は、OpenAIのAIエージェントが新たな脆弱性を独自に発見・悪用してハッキングを行った事案に続くものだ。Anthropicのケースは意図しない接続が原因である点で異なるが、いずれもAI開発企業が自社モデルの能力を完全に制御しきれていない現状を示唆している。
AdAnthropicやOpenAIが株式公開（IPO）に向けて開発競争を繰り広げる中、こうしたインシデントはAIの安全性に対する懸念を増幅させる可能性がある。AIの攻撃能力を研究するPalisade Researchのエグゼクティブ・ディレクター、ジェフリー・ラディッシュ氏は、AIが賢くなるにつれて「状況は悪化する一方だ」と指摘し、未検出または未公開の事案が他にも存在する可能性を示唆した。
米政府も監督強化へ
一連の事案を受け、米政府はAIのセキュリティーリスク管理を強化する動きを強めている。OpenAIのサム・アルトマンCEOは米議会上院議員らと今回のハッキング事件について協議したと報じられており、ホワイトハウスとの対話も予定されている。
Anthropicは、今回の事案を受けて7月23日に全てのサイバー関連の評価を中断し、影響を受けた組織に通知したと説明。うち2社は、通知を受けるまで不正アクセスに気づいていなかったという。同社は、AIモデルが現実世界でサイバー活動を実行する能力を高めるにつれて、内部および第三者のテスト環境でより強力な管理が必要であると結論付けている。