Story
業界リーダーらは、AIの安全性とエージェント型AIが膨大なコンピューティング需要を牽引すると述べている。

Summary
AIインフラサミットで得られた知見によると、より厳格なAI安全要件とエージェント型AIへの移行により、コンピューティングハードウェアの需要は減少するのではなく、大幅に増加するだろうと、業界トップの幹部やシティグループの調査レポートは述べている。
主要なAIモデル開発企業は、AIの安全性と整合性に関する取り組みの強化がインフラ投資の持続的な増加を牽引し、ハードウェア需要の減速懸念に対する投資家の懸念を直接的に払拭するだろうと示唆している。サンタクララで開催されたAIインフラサミット初日の内容をまとめたシティグループの調査レポートによると、業界の主要なボトルネックはモデルアーキテクチャではなく、大規模なコンピューティング、電力、および設備へのアクセスにあるという。
Nvidia、エージェント型AIの需要が100倍になると予測
Nvidia(NASDAQ: NVDA)は、対話型チャットボットから自律型「エージェント型AI」への移行が、ハードウェア要件の飛躍的な増加をもたらすと概説した。NvidiaのハイパースケールおよびHPC担当副社長であるイアン・バック氏は、エージェント型ワークロードは、2023年時点の対話型アプリケーションの約100倍のコンピューティング能力を必要とするだろうと述べた。
バック氏は、この大幅な増加は、入力シーケンスの長期化、KVキャッシュサイズの拡大、複数ターンにわたるインタラクション、複数のサブエージェントの生成など、エージェント型AIに内在するいくつかの要因によるものだと指摘しました。この傾向は、次世代データセンターの設計を推進しており、次世代データセンターは、従来よりも30~40%多くのGPUを搭載できる能力を持つ必要があります。NVIDIAの次期プラットフォームであるVera Rubinなどは、エンドツーエンドのシステムスループットの最適化に重点を置いています。
インフラ大手各社がスケーリングロードマップを詳細に発表
主要テクノロジー企業は、次世代AIを支えるために必要な大規模インフラ構築戦略を詳細に発表しました。
Adインテルのフルスタック変革
インテル(NASDAQ: INTC)のリップ・ブ・タンCEOは、同社が従来のCPUサプライヤーからフルスタックAIインフラプロバイダーへと戦略的に転換していることについて説明しました。同CEOは、業界がシステムレベルの最適化に注力する中で、強化学習、オーケストレーション、エージェント型ワークフローにおいてCPUが引き続き重要な役割を果たすことを強調しました。タン氏はまた、インテルの18Aプロセスノードが量産段階に入り、より高度な14Aノードがそれに続く予定であることを確認した。
Metaの5GWビジョン
Meta Platforms(NASDAQ: META)のインフラストラクチャ責任者であるサントシュ・ジャナルダン氏は、同社の大規模トレーニング構築に関する知見を共有した。Metaは、現在の1ギガワットの「Prometheus」クラスターから、将来の5ギガワットの「Hyperion」展開へと規模を拡大している。ジャナルダン氏は、マルチリージョンでのロスレスネットワークが最大の運用上の課題であると指摘し、Metaは広大なGPUクラスター全体で安定性を維持するために、独自のバックエンドアグリゲーション(BAG)ネットワークアーキテクチャを導入したと述べた。