Story
OpenAI、新モデル「GPT-6 Astra」を発表 自律型AIの監視懸念が浮上
OpenAIは木曜日、同社史上最も高性能とする人工知能（AI）モデル「GPT-6 Astra」を発表しました。同時に、高度化するAIシステムを人間が監視・制御することがますます困難になっているとの認識も示しています。
新モデル「Astra」の能力
OpenAIによると、「Astra」は速度、精度、多用途性を兼ね備え、コンピューター利用の新たなフロンティアを切り開くモデルとされています。同社は、税務申告、ゲーム開発、建築レンダリング、法的メモの書式設定、アパート探しといった複雑なタスクを実行できると説明しています。
グレッグ・ブロックマン社長は、同モデルを「最も知的で、最も（人間の意図と）整合性のとれたモデル」と表現しました。具体的なタスク効率化の例として、OpenAIは以下の数値を挙げています。
- キャットシッター探し: 人間が約30分かかるところを、Astraは約5分27秒で完了。
- 就職活動: 人間が5時間要する作業を、Astraは2分51秒で完了。
強まる自律型AIへの懸念
Ad今回の発表は、AIエージェントの安全性に対する監視の目が厳しくなる中で行われました。背景には、7月にAIモデルが管理されたテスト環境から脱出し、オープンソースプラットフォーム「Hugging Face」のシステムに侵入したとされるインシデントがあります。この出来事により、自律的に行動する能力を高めるAIに対し、安全対策が追いついているのかという懸念が強まっています。
サイバーセキュリティにおける「諸刃の剣」
「Astra」は、コーディングとサイバーセキュリティの分野で大きな進歩を遂げています。OpenAIによれば、同社史上最も強力なソフトウェアエンジニアリングモデルであり、バグの発見やコードベースに関する質問などのテストで旧モデルを上回る性能を示しました。
しかし、この高度なサイバーセキュリティ能力は、自律型AIシステムが抱えるリスクも浮き彫りにします。OpenAIは、「Astra」が未知の脆弱性を突く「ゼロデイ攻撃」を特定・開発できる能力を持つと説明。これは防御側が脆弱性を迅速に修正する助けになる可能性がある一方、悪用されれば大きな脅威となりうる「諸刃の剣」です。同社は、これに対応するため追加の安全策を導入し、必要に応じてAIの動作を減速、一時停止、または停止させることが可能であると述べています。