Story
Anthropic CEO、AI開発の減速を提言 マスク氏やアルトマン氏も支持、各国の反応は二分
AI開発企業Anthropicのダリオ・アモデイCEOが、AI技術の急速な進歩に伴うリスクを警告し、開発ペースの減速を提唱した。この呼びかけは、OpenAIのサム・アルトマンCEOやSpaceXAIのイーロン・マスク氏といった著名な業界リーダーから異例の支持を得ており、AIの「破滅論」を巡る議論に新たな火をつけた。
アモデイ氏の提言と背景
アモデイ氏は「フロンティアのペースを調整しなければならない」と題したエッセイで、AIが次世代AIを自ら構築する能力を高めていることを主因に、2026年夏以降、AIの進歩が「劇的に加速している」と指摘した。同氏は、AIの「スウォーム（群れ）」がサイバー攻撃を実行したとされる「OpenAI-Hugging Faceインシデント」を挙げ、適切な安全策なしに能力が向上した場合、AIが「壊滅的な損害」をもたらす可能性を示したと述べた。
アモデイ氏は、AI開発のペースを調整するための具体的な3段階の計画を提案している。
- より強力な安全性テストと、高度なモデルに対する独立した評価の実施
- 主要なAI開発企業間での協調
- 国際的な協力体制の構築
テック業界の反応
Adアモデイ氏の提言は、業界の主要人物から速やかに支持された。OpenAIのサム・アルトマンCEOは、「ダリオの意見に同意する」とX（旧ツイッター）に投稿し、Anthropicが提案した独立評価者の受け入れを導入する意向を示した。アルトマン氏は2015年の時点で、「超人的な機械知能の開発は、おそらく人類の存続に対する最大の脅威だ」と警告していた。
SpaceXAIのイーロン・マスク氏も「ダリオは正しい」とXで応じ、アモデイ氏を支持。Alphabetのチーフサイエンティストであるデミス・ハサビス氏も「正しい道筋を示している」とコメントした。Microsoft共同創業者のビル・ゲイツ氏は、AIがもたらす変化にどの政府も対応できていないと述べ、技術を管理するための国際機関の必要性を訴えている。
各国政府の見解は二分
各国政府の反応は大きく分かれている。米国のドナルド・トランプ大統領は、AI開発への疑念は中国を利するだけだとし、「AIが必要とする唯一の『ガードレール』は、強力で賢い大統領だ」とSNSに投稿した。一方で、ロイター通信によると、米上院ではAI企業に危害防止策を義務付ける法案が検討されているという。
中国の国営英字紙グローバル・タイムズは社説で、この動きを「中国のAI開発を抑制し、米国の技術的覇権を維持しようとする試み」と批判した。欧州連合（EU）は、イノベーションを支持しつつも、企業はサービスの安全性を証明する必要があるとの立場を示している。ドイツは開発停止を「実行可能な選択肢とは考えていない」とし、デジタル主権の強化を主張。スペインの閣僚は、AIのリスク管理について、核不拡散条約のような国際協定の必要性が議論されていると指摘した。