Story
AnthropicのAI研究、26%をAI自身が主導――開発加速の懸念に新たなデータ
AI開発のスタートアップ企業であるAnthropicは、自社のAI研究開発（R&D）において、AI自身がどの程度の役割を担っているかを示す新たな測定結果を公表した。AIがより高性能なAIを開発するプロセスを加速させる可能性は、AIの長期的なリスクを巡る議論の中心的なテーマであり、今回のデータは市場関係者に重要な示唆を与える。
AIが主導する研究開発の現状
Anthropicの報告によると、同社のAIモデル「Claude」は現在、同社のAI研究開発業務の26%を「主導」しているという。この数値は、今年2月時点の1%未満からわずか半年で急増した。同社は「主導」を、人間による監督のもと、AIが大まかな指示からタスクの大部分を自己完結的に実行する状態と定義している。
さらに、AIが人間と「協働」するレベル以上の研究開発は全体の90%以上に達している。同社は8月だけで、社内プラットフォーム上で約30,000のAIエージェントが同時に研究・エンジニアリング業務に従事し、1ヶ月間で10億件以上のエージェントの意思決定を分析したと述べている。
「再帰的自己改善」と市場への示唆
今回のデータが注目される背景には、「再帰的自己改善」というシナリオへの懸念がある。これは、AIがAI研究を行うことで、より優れたAIが生まれ、その優れたAIがさらにAI研究を加速させるというフィードバックループを指す。この概念は、AIの能力が人間の制御を超えて指数関数的に向上する可能性を示唆するため、AI投資や規制の議論において重要な要素となっている。
Adただし、Anthropicは「再帰的自己改善」シナリオの最も重要な閾値である、完全に自律的なAI研究開発には至っていないと強調している。現時点では、全てのプロセスにおいて人間がループに介在し、監督を続けている。しかし、AIが主導する研究の割合がわずか半年で急激に増加したという事実は、AI開発のペースが今後さらに加速する可能性を投資家に示している。
安全性への投資と今後の見通し
Anthropicはまた、AIによるAI研究開発に使用された計算資源（コンピュート）のうち、7月のある1週間では約12%が安全性に関する研究に割り当てられたと報告した。ただし、計算資源の割合は安全への投資を測る不完全な指標であるとも付け加えている。
今回の測定結果は、「再帰的自己改善」がすでに到来したことを証明するものではない。しかし、将来のAIを構築する作業をAI自身がどれだけ速いペースで引き継いでいるかを追跡するための、具体的かつ重要な指標を提供するものだ。開発ループにおける人間の役割が縮小し続ける場合、この傾向はAIセクター全体にとってますます重要性を増すだろう。