本地 NVMe
1. 3秒看懂
本地NVMe，是指通过PCIe总线直接连接在服务器CPU上的NVMe协议固态硬盘。它不是网络共享存储，而是这台服务器独享的“贴身高速仓库”。在AI训练或推理场景中，它为GPU提供微秒级延迟、数十GB/s带宽的数据通道，是让算力“吃满”的关键硬件之一。
2. 3分钟产业解释
AI算力的价值，最终取决于GPU能在单位时间内消化多少数据。本地NVMe的核心使命，就是消灭“数据搬运”的等待，让GPU不再空转。
传统架构下，数据往往存放在通过网络连接的SAN/NAS中。当GPU需要读取训练样本时，数据包需要经过网络协议栈、存储控制器等多个环节，延迟常达毫秒级，且容易因多任务争抢带宽而产生剧烈抖动。这一延迟在万亿参数模型训练中会被急剧放大——每一个训练步骤都要等待I/O，累积起来可能使昂贵的GPU集群利用率大幅下降。
本地NVMe从物理和逻辑两个层面压缩数据路径：
- 物理直连：SSD插在服务器主板PCIe插槽或U.2/M.2接口上，经由PCIe总线直连CPU，不存在网络中转。
- NVMe协议：专为闪存设计，命令队列深度可达65536，支持多核并行提交请求，软件栈极薄。
在AI产业链中，本地NVMe扮演着 “算力燃料的直供管道” 角色。大规模训练的数据集可达TB至PB级，训练过程中的数据加载、Checkpoint保存与恢复、Embedding读写和KV Cache溢写等I/O操作，都对存储延迟和带宽极其敏感。本地NVMe为每个GPU节点提供本地高速存储池，吸收这些高并发、低延迟的I/O请求。它与网络存储是互补关系：网络持久层负责全量数据的安全、共享与灾备，本地NVMe负责为计算节点提供热数据工作空间。
3. 技术原理
本地NVMe的高性能源自软硬件协同的极简架构。其目标是将存储设备从传统SATA/AHCI协议的复杂栈中解放出来。
物理通道：PCIe总线
PCIe是数据的“高速公路”，点对点连接，没有共享总线竞争。当前主流AI服务器普遍采用PCIe 4.0或5.0：
- PCIe 4.0 x4 单向带宽约8 GB/s；
- PCIe 5.0 x4 单向带宽约16 GB/s（理论值，实测略低）。
某些高性能AIC形态NVMe SSD可使用x8或x16通道，提供更强吞吐。
存储协议：NVMe
NVMe与为机械硬盘设计的AHCI相比，主要优势：
- 超高并行：支持65535个命令队列，每个队列深度可达65536，完美匹配服务器数十核CPU的并行I/O模型。
- 精简指令集：命令长度固定64字节，解析开销远小于AHCI的可变长命令。
- 低延迟通路：可结合用户态驱动（如SPDK）旁路内核，将I/O延迟压至几十微秒。
典型数据路径对比
- 本地NVMe：应用 → NVMe驱动（内核/用户态） → PCIe → NVMe控制器 → NAND Flash
- 网络存储（iSCSI）：应用 → 文件系统/块层 → SCSI层 → iSCSI发起端 → TCP/IP栈 → 网卡 → 网络 → 存储目标 → 存储介质 前者的端到端延迟通常在80 µs内，后者往往在200 µs以上，且容易波动。
装置形态
数据中心常用的NVMe SSD形态：
- U.2（2.5英寸）：支持热插拔，容量点灵活，是最主流的本地数据盘形态。
- E1.S/E3.S：新一代企业级规格，更优散热和密度，逐步在新平台中渗透。
- M.2：多用作系统启动盘，空间有限。
- AIC（附加卡）：直接插PCIe槽，可集成更多NAND，提供超高容量和带宽。
软件栈优化
SPDK（存储性能开发套件）等开源方案能够在用户态运行NVMe驱动，将I/O流程锁定CPU核，消除中断和上下文切换，延迟可稳定在20 µs以下，是高性能AI存储节点的常见加速手段。
4. 关键参数
评价本地NVMe的关键参数可归纳为以下几类，选型时需结合实际工作负载：
-
顺序读写带宽（GB/s）
连续读写大文件的吞吐量。2024年量产的代表性PCIe 5.0 SSD可达14 GB/s读、10 GB/s写（如三星PM1743，来源：三星半导体产品页，2024）。实际性能受散热与链路质量影响。 -
随机读写IOPS（千次/秒）
4 KB小块随机读是数据中心最关注的指标。高端企业级PCIe 5.0 SSD 4K随机读可达250万IOPS以上（来源：三星PM1743规格书，2023年发布）。随机写因缓存策略和垃圾回收，表现会略低。 -
访问延迟（µs）
典型随机读延迟在80 µs左右（PCIe 4.0），优化后可达50 µs以内。延迟分布尾端（99.99%）是服务端QoS的关键，企业级产品通常承诺P999延迟低于300 µs。 -
容量
单盘容量从1.92 TB到30.72 TB等，AI训练服务器常用7.68 TB、15.36 TB或更大规格。部分AIC卡可提供大于30 TB的容量。 -
耐久度（DWPD）
每日整盘写入次数。读密集型场景通常配置1 DWPD（如AI训练数据缓存）；写日志型或Checkpoint密集型则需要≥3 DWPD的混合用途产品。 -
年故障率（AFR）
企业级SSD通常要求AFR低于0.35%，与产品返修率和数据中心运维成本直接相关。 -
性能一致性
在长时间高压写入后，稳态性能（SSD到稳态而非空盘爆发）才是真实能力。JEDEC规范有相关测试标准。
5. 技术路线
本地NVMe并非孤立的技术选择，其演化嵌入在服务器存储层次的整体升级中。
演进简史
- 2010年前：SATA HDD和早期SSD，AHCI协议，队列深度32，性能极大受限。
- 2011‑2015：NVMe 1.0规范发布，PCIe SSD以昂贵AIC形态出现在高端市场。
- 2016‑2019：PCIe 3.0 U.2/M.2 NVMe进入数据中心主流，取代部分SAS SSD。
- 2020‑2022：PCIe 4.0普及，单盘带宽翻倍，AI服务器推动大容量部署。
- 2023至今：PCIe 5.0量产，带宽迈入16 GB/s级，E1.S等新形态扩散，软件层向着CXL内存池化协同演进。
与替代/互补方案的对比
| 对比维度 | 本地NVMe SSD | 网络全闪存储 (NVMe-oF/TCP) | 分布式存储 (Ceph/MinIO等) |
|---|---|---|---|
| 连接方式 | PCIe直连CPU | 以太网/FC | 以太网 |
| 典型访问延迟 | 50 ~ 120 µs | 150 ~ 500 µs | 300 µs ~数ms |
| 带宽 | 单盘可达14 GB/s（PCIe 5.0） | 受限于网络带宽（100 GbE≈12.5 GB/s）但可聚合 | 水平扩展聚合带宽高 |
| 数据共享性 | 单机独占 | 多主机共享 | 集群共享 |
| 扩展性 | 盘位有限 | 纵向扩展（存储阵列） | 横向扩展 |
| AI训练适用性 | 极佳，数据本地化消灭网络I/O | 尚可，适合模型仓库或共享检查点 | 适合大规模数据集存储，非实时训练I/O |
注：延迟数据为典型范围，实际因软硬件栈、负载模式而异。
前沿演进方向：NVMe与CXL的融合
CXL（Compute Express Link）内存扩展正在进入服务器平台。本地NVMe可以作为CXL内存池的持久化后备层，利用CXL.mem协议将大容量NVMe存储器映射为系统可寻址的内存扩展，进一步降低软件栈延迟。这一方向尚处在早期产品孵化阶段。
6. 上游
本地NVMe的供应链上游可拆解为三大核心组件：
NAND Flash颗粒
存储介质，成本占比最高。市场呈寡头格局，全球主要供应商包括三星、SK海力士、铠侠/西部数据、美光、Solidigm（原英特尔存储）。中国大陆唯一主流存储IDM企业为长江存储，其Xtacking架构在层数和密度上持续追赶，已量产232层TLC/QLC NAND，并进入企业级SSD应用（来源：长江存储官网及行业报道，2024年）。
主控芯片（Controller）
SSD的“大脑”，负责FTL映射、GC、纠错等。原厂大多自研或定制主控，独立主控供应商有慧荣科技、群联电子等。国内厂商如得一微、英韧科技、忆芯科技等推出企业级主控产品，部分在市占率上有所突破，但从公开财务数据看，国产主控在数据中心NVMe份额与一线原厂差距仍明显。
DRAM缓存
用于存放映射表和缓冲写命令，依赖DDR4/DDR5颗粒。供应商与内存行业高度重合，三星、SK海力士、美光主导。受内存大宗价格周期影响显著。
上游瓶颈主要在于先进NAND工艺和主控固件，两者决定了SSD产品的核心性能与寿命。近年来缺货与产能过剩交替，需持续跟踪原厂资本开支与产能规划。
7. 下游
本地NVMe的直接客户是AI基础设施的采购与运营方，主要包括：
- 云服务提供商（CSP）：AWS、Azure、Google Cloud、阿里云、腾讯云、华为云等。它们是数据中心SSD的最大采购群体，通用服务器和AI实例均需配备本地NVMe。
- 大型互联网及科技公司：Meta、ByteDance、Baidu等，自建AI算力平台，对NVMe需求与GPU采购配合。
- 行业AI实验室与研究所：国家超算中心、AI创业公司等，部署大规模训练集群。
- 电信与金融客户：正在引入大模型训练推理平台，但规模相对较小。
下游需求特征：以整体服务器采购驱动，通常2 ~ 8块NVMe SSD/GPU服务器（来源：典型配置调研，2024；超微、NVIDIA参考设计公开信息）。客户认证周期长，一旦批量采购则供应关系较稳固。
8. 受益公司
以下仅客观描述产业关联，不构成任何投资建议、买卖推荐或涨跌预测。
- NAND原厂：三星电子、SK海力士、美光科技、铠侠/西部数据等，直接受益于每台AI服务器带来更高容量和企业级NVMe出货量，其财务表现与企业级SSD营收高度相关。
- 长江存储（关联厂商）：作为国产NAND突破者，若其企业级NVMe SSD成功打入服务器OEM供应链，将强化国产替代逻辑。目前其产品已在部分信创和互联网调试入围，但份额尚未公开披露（公开资料未见具体市场占比）。
- 主控/模组公司：慧荣科技、群联电子（独立主控供应商）提供数据中心级主控方案；江波龙（301308.SZ）、佰维存储（688525.SH）等大陆模组厂已推出企业级NVMe产品，与AI需求关联度提升，但同时受NAND价格波动影响显著。
- 服务器ODM/OEM：超微电脑、浪潮信息、联想、Dell、HPE等通过出售整机间接带动上游存储用量，其AI服务器收入增长往往伴随较高的本地NVMe附加价值。
- 第三方开源软件/解决方案：SPDK、io_uring等生态在优化本地NVMe性能中发挥关键作用，可关注开源社区活跃度及后续商业化衍变。
9. 市场规模
独立统计“本地NVMe”细分市场的公开数据较少，通常融入企业级SSD统计中。
据TrendForce于2024年3月发布的《Enterprise SSD Industry Analysis》，2023年全球企业级SSD市场营收约为110亿美元（口径：原厂对数据中心客户的直接销售额），同比增长约15%。其中NVMe接口SSD占比超过80%，PCIe 4.0和5.0成为增长主力（来源：TrendForce, 2024）。
另据IDC《Worldwide Solid State Drive Forecast, 2024–2028》摘要，2023年全球企业级SSD出货容量接近200EB，预计到2028年将超500EB。AI及生成式AI工作负载是主要容量增長驱动力（来源：IDC, 2024）。
价格方面，2023年上半年NAND供过于求导致企业级SSD单价下降，下半年随供应商减产和AI需求拉动，合约价逐步回升。整体单位容量成本（$/GB）呈现长期下行，但高性能、高耐久企业级产品享有溢价。
国内AI基础设施资本开支预计持续增长，有望进一步扩大本地NVMe的市场敞口。但具体中国区本地NVMe采购金额暂无公开独立统计。
10. 玩家对比
以下根据公开技术参数和市场信息，对比主要供应商在企业级本地NVMe领域的代表性产品。
| 供应商 | 代表产品 | NAND类型 | PCIe代数 | 最大容量 | 顺序读(GB/s) | DWPD | 备注 |
|---|---|---|---|---|---|---|---|
| 三星 | PM1743/PM9D3a | V-NAND | 5.0 | 15.36 TB | 14 | 1 ~ 3 | 2024年已量产，三星官网 |
| Solidigm (SK海力士) | D7-PS1010 | QLC NAND | 5.0 | 61.44 TB | 14 | 0.3 ~ 1 | 超大容量主打读密集（来源：Solidigm，2024） |
| 美光 | 7500 PRO/MAX | 232L TLC | 4.0 | 15.36 TB | 7 | 1/3 | PCIe 4.0主力（美光科技产品页） |
| 铠侠 | CM7-V | BiCS FLASH | 5.0 | 12.8 TB | 14 | 1 | 企业与数据中心（铠侠，2024） |
| 长江存储 | PE310系列（企业级） | Xtacking 3.0 | 4.0 | 7.68 TB | 7.4 | 1.5 | 2023年发布，部分合作案例（公开报道） |
| 群联 | Pascari系列 | 合作NAND | 5.0 | 15.36 TB | 14 | 1 | 提供公版/定制企业级SSD方案 |
来源：各公司官方产品规格及新闻稿，截至2025年4月。具体供货和市场分额以定期报告为准。
模组层面，江波龙、Smart Modular等推出自有品牌企业级NVMe SSD，多采用原厂颗粒搭配群联等主控，在二线市场有一定份额，上半年典型营收随NAND降价呈现波动（来源：江波龙2023年报、2024年半年报）。
11. 风险
本地NVMe的产业研究需关注以下不可忽视的风险维度：
- AI资本开支周期性：本地NVMe高度依赖AI服务器部署，一旦宏观经济或技术预期转变导致CSP缩减服务器采购，存储需求可能同步收敛。2023年上半年全球云服务资本支出曾出现阶段性放缓（来源：Synergy Research, 2023）。
- NAND供需失衡与价格剧烈波动：NAND Flash行业历史上多次经历供过于求与短缺切换。若下游AI需求不及预期而原厂产能开出，可能导致企业级SSD价格快速下跌，侵蚀上游利润。
- 技术路径替代风险：NVMe over Fabrics（NVMe-oF）通过网络实现高速共享存储，虽然延迟高于本地NVMe，但在某些高可靠性、池化架构中可能减少对本地大容量NVMe的需求。此外，CXL内存扩展也有可能部分替代以本地NVMe为缓存的架构。
- 国产替代进程不及预期：国产NAND和主控在产品一致性、大批量供货和生态兼容性上与一线原厂仍有差距，导致实际渗透率可能低于市场预期，跟踪时需多次确认客户导入进度。
- 功耗与散热挑战：PCIe 5.0 SSD满载功耗可超过25 W，高密度部署会给服务器电源和散热带来压力，可能限制每节点盘数，进而影响单服务器存储容量。
- 国际贸易与制裁风险：先进NAND及主控技术可能受出口管制影响，供应链不确定性上升，可能改变区域供应格局。
12. 误读纠偏
误读一：本地NVMe就是普通的服务器系统盘，容量小、价值低。
纠偏：AI服务器的系统盘通常是一块中小容量M.2 SSD。而数据盘（即本文讨论的本地NVMe）通常为多块大容量企业级NVMe SSD，专门用于训练数据缓存、Checkpoint、日志和临时工作空间，其单机总容量可达数十TB，成本占服务器接近甚至超过部分次要计算部件，对训练效率影响显著。
误读二：随着400G/800G网络普及，本地NVMe会被拉远的高速存储替代。
纠偏：网络升级解决的是带宽问题，无法抵消物理距离和协议栈带来的延迟惩罚。本地PCIe访问为微秒级，而经过多跳网络+CPU的远程存储访问即便在RDMA下也需几十微秒以上，且延迟抖动更大。大模型训练中大量的随机小块读和Checkpoint局部写对延迟极其敏感，本地NVMe在这些场景中不可替代。
误读三：QLC和更高堆叠层数会导致企业级NVMe不可靠。
纠偏：新一代QLC NAND结合先进LDPC纠错、磨损均衡和冗余技术，在DWPD 0.3‑1的使用场景中，其AFR和不可纠正误码率（UBER）已能满足企业标准。事实上，Solidigm 61.44 TB QLC SSD已获多个大型CSP认证，专门用于读密集型AI数据管线的本地存储（来源：Solidigm客户案例，2024）。
误读四：本地NVMe仅仅是硬件，和软件无关。
纠偏：发挥其完整性能高度依赖存储软件栈的优化，如SPDK、io_uring、特定文件系统（如DAOS、Lustre on NVMe本地缓存）等。仅使用标准内核块层API无法达到标称的百万IOPS和低尾延迟。
13. 最新事件
以下按时间由近及远选取对本地NVMe影响显著的公开事件：
- 2025年1月：英伟达CES发布会上表示，新一代B200/GB200 AI平台服务器参考设计继续强化本地NVMe配置，建议每台服务器配备8个E1.S NVMe SSD用于训练数据缓存与检查点存储（来源：NVIDIA官方新闻室）。
- 2024年Q4：三星宣布基于第8代V-NAND的PCIe 5.0企业级SSD（PM9D3a）进入量产，提供更高能效比（来源：三星电子新闻稿，2024.09）。
- 2024年中：SK海力士旗下Solidigm推出业界首款61.44 TB PCIe 5.0 QLC本地NVMe SSD（D5-P5430系列），已获多家AI云服务商认证（来源：Solidigm新闻发布，2024.05）。
- 2024年Q1：长江存储参加中国闪存市场峰会，透露其企业级NVMe SSD在多家互联网公司完成验证，并小规模出货（来源：参会记录及公开报道）。
- 2023年Q3：SPDK社区发布23.01版本，进一步优化对PCIe 5.0 NVMe SSD和CXL控制器的支持，降低延迟一致性开销（来源：SPDK GitHub Release Notes）。
- 2023年上半年：由于NAND价格低谷，企业级NVMe SSD合约价较峰值下滑超过40%，大幅降低了AI部署的存储成本，也刺激了本地NVMe容量的激进配置（来源：TrendForce, 2023）。
14. 跟踪指标
研究本地NVMe基本面时，以下指标可提供前瞻性信号：
- 全球AI服务器出货量：按IDC季度披露，直接映射本地NVMe盘位需求。
- 企业级SSD季度营收及出货容量：主要原厂（三星、SK海力士/ Solidigm、美光、铠侠）财报中披露的数据，可分解NVMe占比。
- NAND Flash晶圆合约价：反映成本端，CFM闪存市场/DRAMeXchange每周跟踪；价格回暖往往拉动SSD模组公司毛利率。
- 长江存储产能及技术节点推进：公开报道中的月产能（万片）、层数（如232→300层以上）和良率信息，是国产替代节奏的代理变量。
- 大型CSP资本开支指引：AWS、Azure、谷歌云等季度财报中的CapEx预期，间接预示本地NVMe采购力度。
- PCIe与NVMe技术规范更新：PCIe 6.0/7.0规范发布及CPU平台支持时间表，影响单盘带宽演进曲线。
- SPDK、io_uring等开源项目活跃度与贡献者生态：体现软件栈优化方向，影响本地NVMe发挥极致性能的能力。
- 企业级SSD标案价格与DWPD组合：渠道公开报价可反映供需紧张度，通常主流DWPD 1的7.68 TB SSD现货价格是市场温度计。
15. 信源
- NVM Express 官方技术文档与白皮书（nvme.org）
- PCI-SIG 官方规范与速度演进（pcisig.com）
- TrendForce《Enterprise SSD Industry Analysis》及闪存市场季度追踪
- IDC《Worldwide Solid State Drive Forecast》
- CFM闪存市场数据（库存、合约价）
- 三星半导体、SK海力士、Solidigm、美光、铠侠等原厂产品资料与新闻中心
- 长江存储新闻发布及行业展会公开演讲
- NVIDIA HGX/H100/B200 参考架构白皮书
- 主要服务器OEM（Dell、HPE、联想、浪潮、SuperMicro）AI服务器配置指南
- SPDK 社区文档与GitHub发布说明
- 各上市公司定期报告（三星电子IR、美光科技财报、江波龙年报等）
提示：所有引用的数字和事件均基于截至2025年4月的公开信息，具体数据细节请以原始报告或公告为准。