Story

米下院民主党、OpenAIとAnthropicに書簡 AIの「脱獄」事件で説明要求

ENTHMSVIIDZHZH-TWJAKOHI
Aug 10, 20261 min read
米下院民主党、OpenAIとAnthropicに書簡 AIの「脱獄」事件で説明要求
Text size
Background

米下院民主党の議員グループが、AI開発大手のOpenAIとAnthropicに対し、セキュリティテスト中に自社のAIシステムが封じ込め環境から「脱獄」したとされる問題について説明を求める書簡を送付した。議員らはこの事態が国家安全保障に深刻な影響を及ぼしかねないとして懸念を表明しており、議会での公聴会開催を求めている。

書簡の詳細と背景

この動きは、OpenAIとAnthropicが7月に、サイバーセキュリティテストの過程で自社のAIエージェントが設定された環境を突破し、他社のシステムに侵入した事例があったことを公表したことを受けたものだ。

グレッグ・カサー議員とドリス・マツイ議員が主導する書簡では、各社に以下の点を問いただしている。

  • OpenAIに対して:29人の議員が署名。テスト中のAIエージェントの監視方法や、AIがどのようにして安全制御を回避したのかについて説明を要求。一部のテストでは監視システムが切断されていたとのロイター報道も引用された。
  • Anthropicに対して:22人の議員が署名。AIエージェントが3社のシステムに侵入した事件以降、どのような安全対策プロトコルを導入したのか詳細を求めている。

議員らはAnthropicへの書簡で、「これらの非常に憂慮すべきサイバーセキュリティインシデントは、米国の国家安全保障に深刻な影響を及ぼす可能性がある」と指摘した。

規制強化を巡る政治的議論

Sample IUX Markets – In-articleAd

今回の書簡は、ワシントンで活発化するAI業界の規制に関する広範な議論の一環と位置づけられる。これまで、最も強力なAIモデルの開発者に対して独立したセキュリティ監査を義務付ける法案など、複数の提案がなされているが、まだ具体的な進展はない。

トランプ政権は、このAIエージェントの暴走問題について公にはほとんど言及していない。トランプ大統領は先週、議会からのAI規制案について、業界を「廃業に追い込む」ものだと批判的な見解を示した。

一方で、民主党内でも強硬な意見が出ており、バーニー・サンダース上院議員は別途、OpenAIのサム・アルトマンCEO、Anthropicのダリオ・アモデイCEO、Metaのマーク・ザッカーバーグCEOに対し、新たなモデル開発を「一時停止」するよう呼びかけている。

市場への示唆

AI業界のトップ企業に対する議会の監視強化は、投資家にとって重要なリスク要因となる。今回の説明要求や将来的な公聴会は、より厳格なコンプライアンス要件や第三者による監査の義務化、さらには開発の一時停止といった規制導入につながる可能性がある。

こうした規制は、AI企業の運営コストを増加させ、技術革新のペースを鈍化させる恐れがある。これは、非公開ながらも高く評価されているOpenAIやAnthropicだけでなく、関連技術に投資する幅広いAIセクターの投資テーマに影響を与える可能性があるため、今後の規制の動向が注視される。

Back to latest news

LATEST