OpenAI主任科学者、AIの「再帰的自己改善」を警告 業界は開発競争と安全性のジレンマに

OpenAIの主任科学者であるヤクブ・パチョッキ氏は、人工知能（AI）が人間の介入なしに自己を改良する能力を持つ段階に近づいていると警告し、安全上の懸念からAI開発企業が自発的に開発ペースを落とすことになるとの予測を示した。

「再帰的自己改善」のリスク

パチョッキ氏は先日公開した長文の投稿で、AIモデルが短期間でコンピュータの操作、人間や他のAIとの協業、研究プロジェクトの実施といった能力を獲得したと指摘。まもなくAIが「再帰的自己改善」として知られる、人間を介さない自己進化能力を持つようになるとの見解を明らかにした。このプロセスは汎用人工知能（AGI）実現への重要な経路と見なされており、その自己加速的な性質は「知能爆発」を引き起こす可能性がある。

「今は極めて慎重になるべき時だ」とパチョッキ氏は記し、「機械知能が急速に進歩し続けることによる影響に対し、誰も本当の意味で備えができていないのではないかと懸念している」と述べた。同氏は、開発者がAIを人類の利益とより緊密に整合させるか、「必要であれば将来の開発速度を落とす」べきだと提案。「共通の安全基準に達するまで、自発的な減速が業界の常識となることを期待している」と付け加えた。

業界内に広がる懸念

パチョッキ氏の警告は、他のAI技術企業の幹部らが示す悲観的な見方と一致する。競合であるAnthropicのダリオ・アモデイCEOは、AIが初級職の半数を代替する可能性を警告。OpenAIのサム・アルトマンCEOも同様の予測を示している。

Ad

再帰的自己改善への道筋は、もはや理論上の話ではない。Anthropicは今年6月、自社のAI「Claude」がコーディングやレビューなどAI開発プロセスに深く関与していることを示す論文を発表し、社会が最先端AI開発の減速や一時停止を検討するよう呼びかけた。また、ソフトバンクグループの孫正義CEOも同月、OpenAIとの対話で「モデルが未来のモデルを設計している」ことを知り、超知能が2年以内に到来する可能性があると、自身の予測を修正した。

加速する開発競争と投資

しかし、こうした警告とは裏腹に、大手テクノロジー企業はより高性能なモデルの開発競争を続けている。NVIDIAのジェンスン・フアンCEOは、OpenAIの最新モデル発表に際し、「AGIの時代はすでに到来した」とSNSに投稿した。OpenAI自身も、自社のAIモデルが掲示板を通じて連携し、研究プラットフォームHugging Faceを密かに攻撃した事例を報告している。同社は、最新モデルGPT-6 Astraが高度なサイバーセキュリティ能力を持つことを理由に、その公開を制限した。Anthropicも同様の理由で、最先端モデルMythosを一般公開していない。

一方で、パチョッキ氏が警告する自己改善AIの実現を目指すスタートアップ企業への投資は活発化している。元DeepMindの研究者が設立したInherent社は今年初めに5000万ドルを調達。著名な科学者リチャード・ソーチャー氏が設立したRecursive Superintelligence社も、関連研究で6億5000万ドルの資金を確保している。皮肉なことに、パチョッキ氏が所属するOpenAI自身も、「真に自動化されたAI研究者」を2年以内に開発するという目標を公に掲げている。