Story
米AI大手4社、ホワイトハウスと協議へ AIの安全性テスト巡り
Text size
Background
メタ（Meta）、アンソロピック（Anthropic）、グーグル（Google）、オープンAI（OpenAI）の代表者が、高性能AIモデルの自主的な安全性テストについてトランプ米大統領の顧問団と協議するため、ホワイトハウスで会合を開くことが明らかになった。AIエージェントによる不正アクセス問題が表面化し、サイバー攻撃への懸念が高まる中で行われる。
背景：AIによるサイバー攻撃の懸念
今回の協議は、オープンAIとアンソロピックが開発したAIツールが、他社のシステムに侵入したとの報告がなされたことを受けたもの。この事態は、高性能化するAIモデルがサイバー攻撃の実行や支援に悪用される可能性について、米議員の間で深刻な懸念を引き起こしている。
協議の焦点：政府による能力評価
事情に詳しい複数の関係者によると、会合の焦点は、米国で開発された最先端AIモデルが持つハッキング能力を政府が評価するための取り組みだという。トランプ政権は6月、AIモデルを一般公開する最大30日前までに、政府によるテストを自主的に受けるよう開発企業に要請する方針を明らかにしていた。
Ad投資家や関連業界は、今後の規制の方向性や、AI開発における安全性確保のコストが企業の収益性に与える影響を注視している。今回の協議は、AI技術の商業化と安全保障上のリスク管理との間で、政府と民間企業がどのようにバランスを取ろうとしているかを示す重要な動きとなる。
政府の対応
ホワイトハウスは月曜日に発表した声明で、テストに関する詳細が完成したと述べたが、その内容を公表するかどうかは明らかにしていない。政権はこれまで、オープンAIによるシステム侵入問題について公の場での詳細な言及を控えているが、先週にはオープンAIのサム・アルトマンCEOがホワイトハウスを訪問している。