Story
DeepMind共同創業者、AIの能力は安全制御を上回るべきではないと警告 FT報道
Summary
Google DeepMindの共同創業者シェーン・レッグ氏が、急速に進歩するAIの能力が安全管理を追い越してはならないと警告した。同氏は汎用人工知能（AGI）の社会実装を探る研究所を新たに設立したと、フィナンシャル・タイムズが報じた。
Google DeepMindの共同創業者であるシェーン・レッグ氏が、急速に進歩する人工知能（AI）の能力が安全管理の枠組みを追い越してはならないと警告した。フィナンシャル・タイムズ（FT）が報じたもので、同氏は汎用人工知能（AGI）に関する議論を深めるための新研究所「ディープマインド・インスティテュート」の設立も発表した。
AGI開発への警鐘と新研究所
FTによると、レッグ氏は、AIが自律的にソフトウェアを開発したり、自己改良を繰り返したりする能力を高めている現状に言及。これにより、技術が人間による監視や制御の能力を超える速度で進化する可能性に懸念を示した。
この問題意識を背景に設立された「ディープマインド・インスティテュート」は、AGIに関する公の議論を広げることを目的としている。Google DeepMindが「人間の脳と同等の認知能力を持つシステム」と定義するAGIについて、同研究所は科学、教育、社会、政策、哲学など多岐にわたるテーマを扱うという。
AGI達成の見通しと業界内の議論
レッグ氏は、NVIDIAやOpenAIの一部幹部による最近の発言とは一線を画し、AGIがすでに達成されたと宣言するのは時期尚早だとの見解を示した。同氏は自身の予測について、以下の見解を維持している。
Ad- 2028年までに「最小限の」AGIが達成される確率は50%であると改めて表明した。
- 競合であるAnthropicのCEOが提唱した、最先端モデルのリリース速度を「一時停止ではなく減速させる」という案については、「方向性として興味深く」「検討の価値がある」と評価した。
市場への示唆
AI開発の第一人者からのこうした慎重な発言は、AI技術の商業化と規制を巡る議論の複雑さを浮き彫りにする。AIの能力向上と安全性の確保という二つの課題のバランスは、AI関連企業にとっての事業リスクであり、投資家にとっても重要な判断材料となる。
AIが自己改良能力を持つ可能性は、長期的な技術の進路とガバナンスのあり方に大きな不確実性をもたらす。今後、各国の規制当局や企業がどのような安全対策を講じるかが、業界全体の持続的な成長を左右する重要な焦点となるだろう。