Story

OpenAI、次世代AI「Astra」に重大なサイバー攻撃能力のリスクを検知し開発を一部停止

ENTHMSVIIDZHZH-TWJAKOHI
Aug 7, 20261 min read
OpenAI、次世代AI「Astra」に重大なサイバー攻撃能力のリスクを検知し開発を一部停止
Text size
Background

米OpenAIは、開発中の次世代AI(人工知能)モデルが、自律的に高度なサイバー攻撃を実行しうる能力を持つ可能性が予備テストで示されたことを受け、社内開発の一部を停止したと木曜日に発表した。

コードネーム「Astra」と呼ばれるこの未公開モデルは、同社の内部安全基準における「重大(Critical)」なリスクのしきい値を超える可能性のある、高度なコーディングおよびハッキングスキルを示したという。

「重大」リスクの定義と開発停止の背景

OpenAIが自社で定める安全フレームワークによれば、「重大」リスクとは、AIシステムが人間の指示なしに、未知のソフトウェア脆弱性(ゼロデイ脆弱性)を独自に発見したり、安全なネットワークに対してエンドツーエンドの攻撃を仕掛けたりできる能力を持つ場合に分類される。

この能力の飛躍的な向上を受け、OpenAIはAstraの開発を厳重に保護された隔離環境に限定する措置を講じた。同社によると、以前のモデルである「GPT-5.6-Sol」などが達した最高リスク評価は「高(High)」であり、「重大」には至っていなかった。

導入される追加の安全対策

Sample IUX Markets – In-articleAd

今回の事態を受け、同社は複数の厳格な安全対策を導入する。主な対策は以下の通り。

  • ワークフローの停止: 厳格なセキュリティ管理がなされていない内部開発作業を一時停止。
  • リアルタイム監視: モデルの思考プロセスを追跡し、危険な行動を即座に遮断する新たな自動監視システムを導入。
  • 外部監査: 政府機関や第三者の安全研究機関を招き、モデルのストレステストを実施。

AI開発競争と安全性の両立

今回の開発一部停止は、シリコンバレーで激化するAIの商業化競争と、その潜在的リスクを抑制する必要性との間の緊張関係を浮き彫りにした。OpenAIは、Astraはまだリリースされておらず、最近発生したAI関連のセキュリティ侵害事件とは無関係であると明言している。

同社は今回の措置について、危険な能力が一般に展開される前に検知・対応する社内の安全保護システムが意図通りに機能した証拠であるとの見解を示している。これは、投資家や企業顧客に対し、同社が安全性確保を優先している姿勢をアピールする狙いもあるとみられる。

Back to latest news

LATEST