Story
OpenAI、次世代AI「Astra」に重大なサイバー攻撃リスクを警告、一部開発を中断

Text size
Background
OpenAIは、開発中の次世代AIモデル「Astra」が、人間の介入なしに複雑なサイバー攻撃を自律的に実行する能力を持つ可能性が示されたため、内部開発プロセスの一部を中断したと発表した。同社の発表によると、このモデルは社内の安全基準で最も高い「クリティカル(致命的)」なリスクレベルに達する恐れがあるという。
開発中断の背景とリスク評価
コードネーム「Astra」で知られるこの新モデルは、初期テスト段階で高度なプログラミング能力とハッキング技術を示した。OpenAIが独自に定める安全フレームワークでは、AIシステムが未知のソフトウェア脆弱性(ゼロデイ脆弱性)を独自に発見したり、安全なネットワークに対してエンドツーエンドの攻撃を完遂したりする能力を持つ場合、リスクレベルが「クリティカル」に分類される。
このリスクレベルは、同社の以前のモデルである「GPT-5.6-Sol」などが達した「高」リスクを上回るものだ。今回の措置は、AIの能力が飛躍的に向上する中で、商業化競争と安全管理のバランスを取ることの難しさを浮き彫りにしている。
OpenAIが講じた安全対策
Adこの事態を受け、OpenAIはAstraのさらなる開発を厳格な管理下で行うと表明。具体的には以下の措置を講じている。
- 厳格な安全管理下にない内部開発プロセスを全面的に停止。
- 今後の開発作業を、高度に隔離・防護された環境に限定。
- モデルの推論プロセスを常時追跡し、危険な挙動を検知した際に即座に中断させる自動監視システムを導入。
- 政府機関や第三者のセキュリティ専門機関を招聘し、モデルに対するストレステスト(耐久試験)を実施。
市場への示唆
OpenAIは、Astraがまだ外部には公開されておらず、最近報告された他のAI関連セキュリティインシデントとは無関係であることを強調している。同社は今回の開発中断を、危険な能力が一般ユーザーや法人顧客に展開される前に、内部のリスク管理システムが有効に機能した証左であると位置づけている。この動きは、AI技術が進化するにつれて、開発企業がより高度で予防的な安全対策を求められることを市場関係者に示唆している。