Story
AIのボトルネック、演算能力からネットワーキングへ移行 シティが指摘
シティのアナリストは、AI（人工知能）システムが大規模化・複雑化するにつれて、性能の主なボトルネックが純粋な演算能力からネットワーキングへと移行しているとの見方を示した。半導体業界のカンファレンス「Hot Chips」での発表を受けた分析で、データ転送の効率性がAI開発の新たな主戦場になりつつあることを示唆している。
AI開発の新たな制約要因
レポートによると、AIインフラ開発の第一波は、より高速なGPUや大規模なアクセラレータ、トレーニング能力の増強に重点が置かれていた。しかし、AIシステムが数兆パラメータ、より大きなコンテキストウィンドウ、自律エージェントといった領域に拡大するにつれ、チップ間、サーバー間、さらにはデータセンター間でデータを効率的に移動させることが最大の課題となっている。
シティは「将来のAIの勝者は、必ずしも最速のプロセッサを持つ企業ではなく、システム全体で最も効率的にデータを移動できる企業になるだろう」と指摘。NVIDIA、Broadcom、Meta Platforms、Googleなど主要企業のプレゼンテーションが、このトレンドを裏付けているとした。
注目される関連企業
この構造変化は、特定の企業にとって特に有利に働くとシティは分析している。具体的には、以下の企業にポジティブな見通しを示した。
Ad- NVIDIA (NVDA)
- Broadcom (AVGO)
- Arista Networks (ANET)
- Marvell Technology (MRVL)
- Astera Labs (ALAB)
- Lumentum (LITE)
- Coherent (COHR)
これらの企業は、データ移動のスタック全体を最適化する能力を持つことから、価値を高めるとみられている。
データセンターの設計思想も変化
このトレンドは、データセンターの設計思想そのものにも影響を与えている。NVIDIAが提唱する「AIファクトリー」というコンセプトでは、従来のサーバー中心の設計ではなく、コンピュート、メモリ、ネットワーキング、ストレージ、セキュリティを繋ぐデータフローを中心に施設が設計されるようになる。
また、メモリもネットワーキング課題の一部となりつつある。データを処理場所の近くに保持し、混雑した相互接続を通過するデータ量を減らす技術が重要性を増している。これにより、単体のプロセッサを供給する企業から、データ移動スタック全体を最適化できる企業へと、AIインフラにおける価値の源泉が移行する可能性があるとシティは結論付けている。