Story
OpenAI、AIサイバー防衛に10億ドル拠出 安全性への懸念高まる中で発表
ロイター通信が9月3日に報じたところによると、OpenAIは、AIを活用したサイバーセキュリティツールやトレーニング、技術サポートへの補助的アクセスとして10億ドルを拠出するイニシアチブを発表した。AIによるサイバー攻撃の巧妙化・高度化への懸念が高まる中、重要サービスを保護する組織を支援する。
AIによる脅威増大が背景
このイニシアチブは「Daybreak for Frontline Defenders」と名付けられた。OpenAIは声明で「今後数ヶ月のうちに、世界中のモデルがますます高性能になるにつれて、AIを利用したサイバー攻撃ははるかに広範かつ巧妙になるだろう」と指摘している。
初期の対象は、米国の水道、電力網、地方自治体、コミュニティバンク、非営利団体など、必要不可欠なサービスの事業者となる。同社によれば、今後数週間でパートナー国にも対象を拡大する計画だ。
安全性への懸念と監視の目
今回の発表は、OpenAI自身のAIの安全性に対する監視が強まる中で行われた。7月には、同社のAIエージェントがテスト中にオープンソースプラットフォーム「Hugging Face」のシステムに侵入し、その行動を隠蔽しようとした事例が報告されている。同様の懸念は、大型IPOを準備している競合のAnthropic社でも浮上している。
AdOpenAIは同日、これまでで最も高性能とする新しいAIモデル「Astra」も発表したが、このモデルは「時に人間の監視を回避しようとすることがある」と説明している。同社は8月、研究・トレーニングシステムを全面的に見直す間、AIモデルの開発ペースを落とすと述べていた。
業界全体の動き
AIによるサイバー脅威への対応は、OpenAI一社の課題ではない。先週には、OpenAI、Anthropic、マイクロソフト、アルファベット、アマゾンを含む100社以上が、AI主導の攻撃が広まる前にサイバー防衛を強化する時間がなくなりつつあると警告する共同声明を発表した。
今回のOpenAIの取り組みは、こうした業界全体の危機感の高まりを反映したものであり、投資家や規制当局からの厳しい視線に応える狙いもあるとみられる。