技术专题：CUDA 到底锁死了什么？——把"护城河"拆成可证伪的几层

本页目录（6 节）

• 一句话结论
• 一、CUDA 到底锁了哪几层（从浅到深）
• 二、关键区分：训练 vs 推理，锁的深浅完全不同
• 三、正在松动的地方（撬棍在哪）
• 四、变体观点框架（这才是 alpha）
• 五、诚实边界

日期：2026-06-27　类型：技术专题（解释型 + 变体弹药库）　配套：英伟达、AMD、技术卡/自研ASIC.md

这类专题是变体观点的弹药库：把一个被反复念叨但很少拆解的"护城河"拆到能证伪。结论是判断类（看逻辑，不是看出处）；少量承重数字标了档级。

一句话结论

"CUDA 锁定"不是一个东西，是~20 年堆起来的多层栈 + 网络效应。关键洞察：它锁的深浅，训练侧和推理侧天差地别——训练侧极黏，推理侧正在被"抽象层 + ASIC 自带软件栈"侵蚀。所以变体的战场不是"CUDA 强不强"，而是"推理侧的锁多快被撬开"。

一、CUDA 到底锁了哪几层（从浅到深）

1. 编程语言/模型（CUDA C++、kernel）——最表层，写 GPU 程序的语言。单看这层，"换掉"没那么难。
2. 算子库（cuDNN、cuBLAS、NCCL、TensorRT…）——真正的深度所在。这些是英伟达十几年手工压榨硬件、调到极致的运算库；对手要的不是"写个库"，是"重写十几年的极致优化"。
3. 框架默认路径（PyTorch/JAX 优先为 CUDA 优化）——你用 PyTorch，最顺、最快、bug 最少的路径默认就是 CUDA。
4. 开发者技能 + 招聘市场（网络效应）——会 CUDA 的人最多 → 库/教程/踩坑经验最多 → 更多人学 CUDA。自我强化。
5. 工具链（profiler、debugger）——出问题时能定位、能调优的成套工具，只有成熟生态才有。
6. 硬件协同（NVLink 等）——多卡互联等系统能力和软件栈绑在一起。

为什么 AMD ROCm 追不上：不是某一层落后，是要同时补齐 1–6 层 + 跨过网络效应。ROCm 在部分主流库上接近了，但覆盖面/成熟度/长尾仍落后——而真实负载常死在长尾算子上。

二、关键区分：训练 vs 推理，锁的深浅完全不同

• 训练（极黏）：用最前沿特性、要 NCCL 做大规模多卡通信、常写自定义 kernel 压性能、对稳定性要求极高 → 几乎全压 CUDA。这层短期撬不动。
• 推理（在松动）：工作负载稳定、可被编译/服务化，对"用什么底层"没那么敏感 → 替代路径正在成形。

三、正在松动的地方（撬棍在哪）

• Triton（OpenAI）：用 Python 写 kernel、编译到多种后端 → 削弱"必须写 CUDA C"这层。
• torch.compile / PyTorch 2.x 后端抽象：把"框架"和"具体硬件后端"解耦，理论上后端可换。
• 编译器栈（MLIR 等）：把"模型 → 硬件"做成可换后端的编译问题。
• 超大厂 ASIC 自带软件栈：谷歌 JAX/XLA on TPU 是一个已经成规模、绕开 CUDA 的平行生态——这是最实质的反例。

四、变体观点框架（这才是 alpha）

• 共识："CUDA 护城河到处都深、长期难破。"——这基本已 price in。
• 更锋利的变体：护城河训练侧深、推理侧浅且在退。真正的赛点是：抽象层（Triton/编译器）+ ASIC 生态，把推理商品化的速度，比共识快还是慢？
  • 若更快（市场低估）→ 英伟达 2027 推理侧份额/毛利率早于共识承压。
  • 若更慢（市场高估威胁）→ 训练侧 CUDA 锁定比空头想的更黏，英伟达更值钱。
• 可证伪 / 盯什么（2–4 季见分晓）：
  1. 跑在非 CUDA 栈上的推理负载占比是否上升；
  2. Triton / torch.compile 在生产环境的采用度；
  3. 是否有大厂在非英伟达硬件上大规模训练前沿模型（撬动训练侧的强信号）；
  4. ROCm 的库覆盖里程碑。

五、诚实边界

• 本篇是机制 + 框架，绝大部分是判断类（看逻辑）。承重数字（如英伟达营业利润率、份额）见 英伟达卡，以第一档为准。
• AI 会幻觉、知识有截止；上面的"撬棍"是否真的撬动，要用第四节的可证伪信号去实测，不要当结论。
• 与 报告/2026-技术专题-ASIC对GPU推理真实账.md 是姊妹篇：CUDA 锁定的"推理侧松动"，正是 ASIC 推理账成立的前提。

来源：技术机制为通识性综合（PyTorch/Triton/XLA 等公开文档与生态共识）；承重数字见各公司卡第一档。