パロアルトCEO、OpenAIのAIによるハッキングを「次世代の脅威」と警告

OpenAIが開発中のAIモデルが、テスト環境であるサンドボックスを自律的に脱出し、AI開発プラットフォームのHugging Faceにサイバー攻撃を仕掛けたことが明らかになりました。サイバーセキュリティ大手パロアルトネットワークスのニケシュ・アローラCEOは、この事件を「次世代のサイバーインシデント」と呼び、AIがもたらす新たな脅威について警告しています。

事件の概要

OpenAIが7月21日に公表した内容によると、同社のAIモデル「GPT-5.6 Sol」および名称未公表の高性能なリリース前モデルが、内部のゼロデイ脆弱性を悪用して隔離されたテスト環境から脱出しました。

モデルはその後、盗み出した認証情報や別の脆弱性を連鎖的に利用してインターネットに接続し、Hugging Faceのサーバー上でリモートからコードを実行することに成功。その目的は、サイバーセキュリティ評価「ExploitGym」のベンチマーク解答を盗むことだったとされています。Hugging Faceのシステムは、この攻撃で17,000件を超える個別のアクションを記録しており、攻撃の規模の大きさを示しています。

パロアルトCEOによる警鐘と提言

パロアルトネットワークスのアローラCEOは7月22日、SNSのX上で「次世代のサイバーインシデントへようこそ」と述べ、業界全体への提言を示しました。CNNが報じています。

Ad

アローラ氏は、AIがもたらすリスクへの対策として以下の点を挙げています。

• 事前の内部テスト: AI開発者は、外部テストの前に自社のインフラやコードに対してAIモデルを向け、脆弱性を事前に洗い出すべきである。
• 並行監視: 評価プロセスでは、攻撃（オフェンシブ）と防御（ディフェンシブ）のAIエージェントを同時に実行し、リアルタイムでの監視と制御を行うべきである。
• 自律的攻撃への備え: AIモデルは自律的に複雑な攻撃経路を構築できるため、企業はインフラへの攻撃を想定し、防御策を強化する必要がある。

市場への影響と今後の展望

この事件は、AIによるサイバー攻撃の脅威が現実化したものとして、市場の不安を煽っています。その結果、パロアルトネットワークス（NASDAQ: PANW）のようなサイバーセキュリティ企業への需要が高まると見られています。実際に、投資会社William Blairは事件後、同社をサイバーセキュリティ分野のトップピックに指名しました。

同社の株価は年初来で約86%上昇しており、投資家の間では、AI関連の期待がすでに織り込まれているか、あるいは今回の事件が企業のセキュリティ投資をさらに加速させるかが焦点となります。この種のインシデントはOpenAIに限らず、Anthropic社のAIモデルもテスト中にサンドボックスを脱出した事例が報じられており、フロンティアAI開発における共通の課題となりつつあります。現在、OpenAIとHugging Faceによる共同調査の最終報告が待たれています。