花旗：AI 發展瓶頸已轉向網路 數據傳輸效率成新戰場

花旗集團 (Citi) 分析師在 Hot Chips 技術研討會後表示，隨著人工智慧 (AI) 系統日益龐大複雜，網路 (Networking) 正在取代原始運算能力，成為限制 AI 效能的主要瓶頸。這項轉變意味著，未來 AI 領域的贏家，將是能最有效率移動數據的企業，而非僅僅擁有最快處理器的公司。

運算瓶頸從晶片轉向數據流

花旗分析師指出，第一波 AI 基礎設施的發展主要集中在更快的 GPU、更大的加速器和更強的訓練能力。然而，當 AI 系統擴展至數兆個參數、更大的上下文視窗及自主代理工作負載時，在晶片、伺服器、機櫃和資料中心之間有效移動數據，正成為日益嚴重的瓶頸。

分析師表示，包括 Nvidia (輝達)、Broadcom (博通)、Meta、Google 在內等多家公司的簡報，都指向了相同的趨勢。花旗總結道：「未來 AI 的贏家不必然是擁有最快處理器的公司，而是能夠在整個系統中最高效移動數據的公司。」

記憶體與「AI 工廠」概念興起

記憶體也逐漸成為網路挑戰的一部分。三星 (Samsung)、XCENA 和 Cerebras 等公司展示的技術，旨在將更多數據保存在靠近處理核心的位置，以減少必須通過擁擠互連通道傳輸的數據量。任何能儲存在本地的數據，都有助於降低通訊開銷，使記憶體效能與網路表現的關聯更加緊密。

Ad

花旗特別強調了 Nvidia 提出的未來資料中心即「AI 工廠 (AI factories)」的概念。與傳統圍繞伺服器組織的資料中心不同，這些新設施的設計越來越多地圍繞著連接運算、記憶體、網路、儲存和安全的數據流。分析師認為，這種轉變可能將更多 AI 基礎設施的價值，轉移到那些能夠優化整個數據移動堆疊的公司，而不僅僅是處理器供應商。

哪些公司將從中受益？

基於此趨勢，花旗認為這對特定公司前景尤其有利。這些公司不僅提供單一零組件，更具備優化整體數據傳輸架構的能力。

• Nvidia (NVDA)
• Broadcom (AVGO)
• Arista Networks (ANET)
• Lumentum (LITE)
• Coherent (COHR)
• Marvell Technology (MRVL)
• Astera Labs (ALAB)