AI 存储层级（HBM 之下，AI 一路吃到硬盘）
最近更新：2026-07-04 关联：第 5 层（内存/存储）+ 第 7 层（数据中心）；相关公司卡 美光 MU（美股唯一规模化 DRAM+NAND）、SK海力士（HBM+NAND，韩股）。投资判断在那边，本卡不展开。 上接 HBM 卡（金字塔塔尖），本卡讲塔尖以下（DRAM/NAND/HDD）+ 新机制。
分工：HBM 卡讲"塔尖的带宽瓶颈"，本卡讲"AI 为什么把整座存储金字塔从上吃到下、以及每层的供需紧张"。不重复 HBM 原理。
一句话瓶颈
大家都盯着 HBM，但 AI 的胃口正沿着存储金字塔一路往下吃——先是 HBM，然后是服务器 DRAM，再是 NVMe 固态硬盘（NAND），最后连机械硬盘（HDD）都被扫空。"AI 只吃 HBM"是过时印象；2026 年从企业 SSD 到 30TB 机械硬盘全线售罄涨价，是一个更广、更被低估的瓶颈面。
原理：讲到你能复述
第一步：存储金字塔——越往上越快越贵、越往下越大越便宜
数据中心把存储分成四层，像一座金字塔：
| 层 | 是什么 | 特点 | 谁做 |
|---|---|---|---|
| ① HBM | 贴在 GPU 上的超高带宽内存 | 最快、最贵、容量最小（几十 GB/卡） | SK海力士/美光/三星（见 HBM 卡） |
| ② DRAM（服务器内存） | GPU 服务器里 CPU 用的主内存（DDR5） | 快、比 HBM 便宜、容量中等（几 TB/机） | 美光/SK海力士/三星 |
| ③ NAND / NVMe SSD | 固态硬盘，用闪存芯片 | 持久保存、比 DRAM 慢但比硬盘快、容量大 | 美光/SK海力士(Solidigm)/三星/铠侠 |
| ④ HDD（机械硬盘/近线存储） | 传统转盘硬盘 | 最慢、最便宜、容量最大（30TB+/个） | 希捷 STX/西部数据 WDC（双寡头，已建卡） |
关键区别：HBM 拼的是带宽（喂得多快），NAND/HDD 拼的是容量密度 + 每 GB 成本（存得多便宜）。它们是不同的生意、不同的周期。
第二步：AI 为什么把整座金字塔从上吃到下（本卡的核心新机制）
三条需求把 AI 从"只吃 HBM"扩展到"吃光全金字塔"：
- KV 缓存外溢（最关键、最新）：模型推理时要记住之前算过的上下文（KV 缓存，见 推理成本栈系统层）。上下文窗口越做越长（几十万 token）+ 推理模型"想很久"→ KV 缓存爆掉 HBM 装不下 → 只能往下溢：溢到 DRAM，再溢到 NVMe SSD。英伟达 2026 年把这套"外溢"标准化了（Dynamo 引擎 / CMX 上下文内存平台 / CES 2026 发布的 ICMSP，把推理上下文卸载到 NVMe SSD）[T2·英伟达技术博客/行业报道]。→ 这条把"推理"从纯算力消费者，变成了存储消费者——是存储需求最被低估的新引擎。
- 训练数据湖 + 合成数据：训练要喂海量数据，2026 的后训练/合成数据生成又造出更多数据要存——吃的是③④层的高密度容量。
- 检索（RAG）：让模型查外部知识库，需要快速存取向量/文档——吃②③层。
一句话记住：训练和"想得久的推理"都在制造数据、也在消费数据 → 金字塔每一层都被 AI 加需求，不只是塔尖。
第三步：为什么会紧张（供给侧的挤出效应）
- 内存厂把产能挪去做 HBM：HBM 单位利润高，SK海力士/美光/三星把晶圆产能优先给 HBM → 挤出了普通 DRAM 和 NAND 的产能 → 普通内存/闪存反而缺货涨价 [T2·TrendForce 类行业研究]。
- 厂商克制扩产：吃过周期暴跌的苦，这轮不敢盲目扩产 → 供给被刻意压住，结构性紧张。
- 连硬盘都卖空：AI 数据中心的近线容量需求（存冷数据/备份/数据湖）暴增，西部数据公开称 2026 全年机械硬盘产能已售罄 [T2·公司公开表态]。
新手词汇表
- 存储金字塔 = 按"快贵小 → 慢便宜大"分层的存储体系（HBM→DRAM→SSD→HDD）。
- NAND（闪存） = 固态硬盘（SSD）里的存储芯片；断电不丢数据，拼容量密度和每 GB 成本。
- DRAM = 内存芯片；快、断电即丢，HBM 就是一种堆叠版 DRAM。
- NVMe SSD = 用 NAND 做的高速固态硬盘，直连服务器。
- HDD / 近线存储 = 机械硬盘，最便宜大容量，存"不常用但要留着"的数据。
- KV 缓存外溢 = 推理时上下文缓存装不下 HBM，往 DRAM/SSD 溢出的机制（AI 存储新需求的头号来源）。
- 产能挤出 = 内存厂把晶圆优先给高利润的 HBM，导致普通 DRAM/NAND 缺货涨价。
现状与路线图（技术地图，非买卖建议）
- 成熟度：结构性紧缺进行中（2026）。TrendForce 类研究判定 NAND 供给全年偏紧；企业级 SSD 需求由 AI 训练/推理服务器拉动。
- 规模（行业口径，T2 非承重）：NAND 市场 2026 约 $58.7B（2025 约 $55.7B）；估 每 5 个 NAND 比特有 1 个用于 AI、贡献约 34% 市值 [T2·行业研究，具体数字会漂，不作决策承重]。HDD 近线需求 +25%/年、30–32TB 盘吃紧 [T2]。AI 额外拉动约 363EB 存储需求 ≈ 2026 总出货 18% [T2·Coughlin/Forbes]。
- 能做的人（技术卡位）：DRAM/NAND=美光/SK海力士/三星寡头；企业 SSD 美光/Solidigm(SK)/三星/铠侠；HDD=希捷/西部数据双寡头（本库无卡）。
- 承重财务只认第一档：市场级数字全是 T2、会漂；决策承重数字（美光 企业 SSD $5B/数据中心 $25B 等）在 美光卡第一档，本卡不重复背书。
技术因果：卡住谁 / 利好谁
- 利好：内存/闪存寡头（美光/SK海力士/三星）——不只 HBM，普通 DRAM/NAND 因挤出也涨价；企业 SSD 是 AI 存储直接受益线（美光已 Dec 2025 退出 Crucial 消费业务、把产能全转 AI/企业 [T2·公司公告，可回美光 IR 核]）。
- 盲点已补（2026-07-04）：HDD 近线双寡头 希捷 STX（HAMR 领跑者）/ 西部数据 WDC（纯 HDD 转身、HAMR 追赶者）已建卡——纯 AI 冷存储受益、2026 产能售罄；但同美光/SK 是周期股（利润率创纪录常对应周期最热时）。
- 卡住谁：普通消费电子（PC/手机）被挤出，消费级 SSD/内存涨价（1TB 消费 SSD 从 ~$45 翻到 ~$90 [T2]）——对 AI 链是需求证据，对消费电子是成本压力。
- 与推理的耦合：KV 缓存外溢把推理和存储绑在一起——推理越"想得久"、上下文越长，存储需求越大（见 推理成本栈）；这也是英伟达做 CMX/ICMSP 的原因。
📌 对投资的含义（一行，详见公司卡）
→ "AI 只吃 HBM"是过时印象——KV 缓存外溢 + 数据湖把需求压到整座存储金字塔（DRAM/NAND/HDD 全线紧张），但这仍是周期生意（涨价周期总有顶）；且 HDD 近线是本库尚未覆盖的纯受益盲点。 详细估值/多空/盯什么见 美光 MU（有估值报告：低 PE 周期顶陷阱）、SK海力士；HBM 塔尖见 HBM 卡。
更新日志
- 2026-07-04 建卡（F4 队列，宪法 Part 3·F）：补 HBM 之下的存储层级——存储金字塔四层 + AI 从上吃到下的三条需求（KV 缓存外溢为核心新机制）+ 供给挤出效应。与 HBM 卡分工（塔尖 vs 塔身）、与推理成本栈耦合（KV 缓存）。市场级数字全标 T2 非承重（承重在美光卡第一档）。记一个覆盖盲点：HDD 近线（希捷/西部数据）是纯 AI 存储受益却无卡——提给后续队列评估是否建卡。
来源：NAND 市场规模/AI 占比/挤出 T2·[Avnet 2026 内存超级周期、TrendForce]；KV 缓存外溢/CMX/ICMSP T2·[NVIDIA 技术博客、Blocks&Files]；HDD 近线售罄/+25% T2·[Forbes/Coughlin]；美光企业 SSD/数据中心承重数字见 美光卡第一档。