Story
OpenAI、新型AI「Astra」のサイバーセキュリティ機能を制限へ ゼロデイ脆弱性の悪用リスクを懸念
Text size
Background
OpenAIは火曜日、近くリリースを予定している新型人工知能（AI）モデル「Astra」について、高度なサイバーセキュリティ関連の機能を制限する方針を明らかにした。同モデルが人間の介入なしに未知のソフトウェア脆弱性（ゼロデイ脆弱性）を特定し、悪用するコードを開発できる能力を持つことが判明したためだ。
「クリティカル」な能力と悪用のリスク
OpenAIによると、Astraは同社が定める「準備フレームワーク」において「クリティカルなサイバーセキュリティのしきい値」に達した初のモデルとなった。これは、十分に保護されたシステムに対しても、人間が各ステップで指示することなく、未知のセキュリティ上の欠陥を発見し、それを悪用する方法を開発できることを意味する。
評価テストにおいて、Astraは実際に2つのゼロデイ脆弱性を発見し、それらを連鎖的に利用してシステムを攻撃することに成功したという。この結果を受け、同社は8月にAstraに関する一部の内部作業を一時停止し、より厳格な安全対策を組み込んだ。
段階的なアクセス制限と安全対策
AdOpenAIは、Astraの高度なサイバーセキュリティ関連機能へのアクセスを当初、一部のテスターグループに限定する。その後、防御的なサイバーセキュリティ目的での利用に限り、より広範なユーザーにアクセスを提供する「Daybreak Blue」プログラムを通じて提供する計画だ。
同社は不正使用を防止するため、以下のような安全対策（ガードレール）を強化している。
- 内部展開中のモデルの不正行為を監視
- 不正の可能性がある活動を自動的に停止
- サイバー攻撃を目的としたジェイルブレイク（制約回避）要求の拒否率は91.5%に達し、GPT-5.6 Solの59%から大幅に向上
OpenAIは、このシステムが正当な活動を誤って不正使用の可能性として警告し、作業が遅延・停止する可能性もあるとしている。モデルの安全性やセキュリティに関するテストの詳細は、ローンチ時に公開される「システムカード」で明らかにされる予定だ。