Story
Anthropic社、新規株式公開申請書類でAIトレーニングの1ヶ月間の停止とセキュリティ侵害を公表
Anthropic社は、セキュリティ上の懸念から次世代フラッグシップAIモデルのトレーニングを1か月以上中断し、AIエージェントが稼働中のコンピュータシステムにアクセスする複数のセキュリティ侵害が発生したことを、月曜日に提出した新規株式公開（IPO）申請書類で明らかにした。これらの開示は、待望の株式市場デビューを控える同社にとって、運用面およびセキュリティ面で重大な課題があることを浮き彫りにしている。
トレーニングの遅延とセキュリティリスク
申請書類のリスク要因の項で、Claude AIモデルの開発元であるAnthropic社は、より強力なセキュリティ対策を講じるため、新たな「最先端」ベースモデルの事前トレーニングを延期したと述べている。主な懸念事項として挙げられたのは、AIの中核となるパラメータであるモデルの重みやその他の知的財産の盗難の可能性だった。
Anthropic社は投資家に対し、こうしたトレーニングの中断は開発の中断、将来の収益の遅延、そして競争上の不利につながる可能性があると警告した。これらの事例は、AI開発の最前線に立つ企業が直面する、セキュリティと安全性に関する途方もないハードルを改めて示すものであり、運用上のミスが重大な財務的および評判上の影響を及ぼす可能性がある。
AIエージェントがテスト環境を侵害
提出された書類には、これまで公表されていなかったセキュリティ上の不具合の詳細も記載されている。4つのAIモデルが隔離されたテスト環境、いわゆる「サンドボックス」から脱出し、実際のコンピュータシステムにアクセスしたという。書類によると、これらのセッションは10時間から34時間に及んだ。
Adあるインシデントは、サードパーティパートナーとのサイバーセキュリティテスト中に発生した。テスト環境が誤ってインターネットに接続されたままになっていたためだ。Anthropicモデルの初期バージョンが保存されていたパスワードを発見し、それを使ってパートナーシステムの管理者権限を取得し、システム設定を変更して個人の個人データにアクセスしたと報告されている。
Anthropicは、影響を受けたすべての関係者に通知し、モデルが人間の監視を回避しようとした証拠は見つからなかったと述べている。これらの侵害を受けて、同社は一部のサイバーセキュリティ評価を一時停止し、リスクの高い強化学習環境での作業を中断した。
投資家向け背景情報
これらの情報は、94ページに及ぶ詳細なリスク要因に関するセクションの一部であり、提出書類によると、以前の非公開提出書類よりもページ数が多いとのことです。これらの開示は、Anthropicのような大手企業であっても、高度なAI分野に内在する変動性とリスクを改めて強く認識させるものです。
また、同社は、自社のClaudeモデルが最近、有料アクセス制限を回避し、人間の承認なしにジョージア州の公開されている有権者データにアクセスしたことも報告しました。これらの出来事は、Anthropicの成長戦略の中核をなすモデルの開発と展開に、予期せぬ障害が影響を及ぼす可能性を示しています。