Story
AI存储需求全面爆发:伯恩斯坦称投资机遇从HBM扩展至DRAM与NAND

根据投资银行伯恩斯坦(Bernstein)分析师的最新报告,人工智能的快速发展正在造成日益严重的内存瓶颈,其需求正从高带宽内存(HBM)迅速蔓延至传统DRAM、NAND闪存和存储解决方案。这一趋势意味着,AI领域的投资机遇正在整个存储产业链中扩展。
AI工作负载差异化,存储需求分层
伯恩斯坦指出,不同的AI工作负载对存储堆栈(memory stack)提出了截然不同的要求,这是投资者理解该领域机遇的关键。AI模型的训练(Training) 过程仍然是计算密集型任务,内存带宽是限制模型规模和计算速度的核心因素。虽然HBM在其中扮演着核心角色,但大规模训练同样需要系统DRAM、本地SSD以及用于数据集、缓存和检查点(checkpoints)的网络存储。
相比之下,推理(Inference) 过程则面临不同的挑战。在处理用户提示并生成第一个词元(token)的初始“预填充(prefill)”阶段,任务主要受计算能力限制,因此GPU和HBM更为重要。然而,在后续生成内容的“解码(decode)”阶段,任务则转为受内存限制。模型需要将先前生成的词元存储在“键值缓存(KV cache)”中,其所需容量会随着上下文长度和并发用户数的增加而急剧上升。
分析师表示,在大型部署中,KV缓存所需的内存可能超过模型权重本身,这或将成为限制AI服务能够支持用户数量的瓶颈。
新兴技术与市场机遇
为了应对上述压力,行业正在催生新的内存层级,包括CXL内存、英伟达的“Storage Next”计划以及CMX上下文存储等。这些新兴技术旨在平衡AI系统在性能、容量和成本之间的需求,以支持更大规模的内存池。
此外,检索增强生成(RAG) 等技术可能进一步扩大需求。伯恩斯坦认为,构建RAG数据库需要大量的SSD或HDD容量以及系统DRAM,而在搜索这些数据库时,DRAM的作用则更为关键。
Ad而代理式AI(Agentic AI) 的发展可能使需求进一步加剧。随着自主系统需要保留中间结果、与外部工具交互并在代理之间传递输出,对KV缓存和传统服务器中的CPU及常规内存的需求将迅速增长。
投资展望与评级
存储制造商也在积极开发高带宽闪存等前沿技术,试图将类HBM的带宽与NAND的容量及成本优势相结合,但伯恩斯坦指出,相关的技术障碍依然很高。
基于对整个AI存储市场的分析,伯恩斯坦对多家主要存储芯片和设备制造商给出了“跑赢大盘”(Outperform)评级,包括:
- 三星电子 (Samsung Electronics)
- SK海力士 (SK hynix)
- 美光 (Micron)
- 闪迪 (SanDisk)
- 希捷 (Seagate)
- 西部数据 (Western Digital)
与此同时,铠侠(Kioxia)则被评为“跑输大盘”(Underperform)。