Story
英国王、AI大手幹部を招聘 人類の脅威への懸念高まる中
英国のチャールズ国王が今週、人工知能（AI）開発の主要企業幹部を招き、技術がもたらす脅威への懸念が高まる中で共通の倫理原則の必要性について協議することが明らかになった。ロイター通信によると、この会合にはNvidia、Google DeepMind、OpenAI、Anthropicなどが参加する。
高まるAIの脅威と開発減速論
今回の動きは、AI企業Anthropicの研究者2名が、急速に進歩するAI技術が「そう遠くない将来に」人類を滅亡させる可能性があると警告したことで、AIのリスクに関する議論が再燃したことを受けたものだ。
Anthropicのダリオ・アモデイ最高経営責任者（CEO）は、企業はAIモデルの進歩のペースを落とすべきだと主張している。同社は先週、複数の主体が同社のAIモデル「Claude」を兵器開発やサイバー作戦、監視、詐欺などの活動に利用した事例を詳述した脅威インテリジェンス報告書を公表した。
国王主導の議論と英国の立ち位置
バッキンガム宮殿は、この会合がAIを社会の利益に役立て、「人々と地球双方の繁栄」に貢献する方法を議論することを目的としていると説明した。チャールズ国王は皇太子時代から、特に環境問題などで同様の会合を主宰してきた実績がある。
Ad英国はAI分野への資金調達やスタートアップ企業数で欧州をリードしており、AI規制については欧州連合（EU）よりも米国に近い「ライトタッチ」なアプローチを支持している。2023年のAI安全サミット後に設立された英国のAI安全研究所は、主要AI企業との自主的な合意に基づき、展開前のAIモデルにアクセスしてその能力とリスクを評価している。
国際的な足並みの乱れと市場への影響
一方で、AI開発のペースを巡る世界的な合意形成は困難を極めている。米国のドナルド・トランプ大統領は開発減速の考えを否定し、中国の環球時報はこれを「冷戦時代の脚本」であり北京を標的としたものだと批判したと報じられている。
投資家にとって、AI開発の速度と規制を巡る議論は、セクター全体に大きな不確実性をもたらす。Nvidia、Google DeepMind、OpenAI、AnthropicといったAI開発競争の最前線にいる企業は、将来的な規制強化や社会的な反発という逆風に直面する可能性があり、長期的な成長見通しに影響が及ぶことも考えられる。こうしたハイレベルな協議の行方は、今後の政策の方向性を示す重要なシグナルとなるだろう。