技术专题：ASIC vs GPU 在推理上的真实账——便宜是有条件的
本页目录（8 节）
日期：2026-06-27 类型：技术专题（解释型 + 变体弹药库） 配套：英伟达、博通、谷歌、技术卡/自研ASIC.md
变体弹药库。结论是判断类（看逻辑）；承重数字标了出处档级。姊妹篇：报告/2026-技术专题-CUDA锁死了什么.md（推理侧 CUDA 松动是本篇账成立的前提）。
一句话结论
推理是重复、稳定、量极大的负载——正是 ASIC 的主场。但"ASIC 更便宜"有条件：账要算 TCO + 灵活性风险 + 软件成本 + 规模门槛，不是单看"每瓦性能"。结论：超大厂自家推理越来越倒向 ASIC；前沿训练、长尾客户、架构突变仍是 GPU 的地盘。
一、为什么"芯片选择"由训练/推理决定
- 训练：一次性投入大、还在快速演化、要最高互联和最前沿特性、要灵活 → GPU + CUDA 赢。
- 推理：模型训好后跑无数遍、负载稳定、单位是"每 token 成本" → 专用化（ASIC）开始划算。
- AI 重心从"拼命训练"转向"大规模推理"，把账推向 ASIC 一侧。
二、账的正面：ASIC 在推理上凭什么省
- 每瓦/每美元性能：砍掉通用性，为固定负载定制 → 同样的活更省电、更省钱。
- 省掉"英伟达税"：英伟达毛利率 ~65–75% 区间[二档，详见英伟达卡]。超大厂自研 = 把这块供应商利润内部化，纵向一体化吃下来。
- 规模摊薄：到超大厂的体量，一次性设计成本（NRE）摊到海量芯片上，每颗成本就压下来了。
三、账的反面：ASIC 的隐藏成本与门槛
- NRE + 周期：设计成本极高、18–24 个月才出片——你在为"两年后的模型"赌今天的设计。
- 灵活性风险：芯片流片后写死。若模型架构大改（新的注意力机制、MoE 等），定制芯片可能"为昨天的模型优化"，吃亏。
- 软件得自己扛：没有 CUDA 生态，编译器/运行时/算子库要自己建自己维护——只有到一定规模才值得（呼应 CUDA 专题：推理侧抽象层的成熟，正在降低这道门槛）。
- 规模门槛：以上决定了只有谷歌/Meta/亚马逊/OpenAI/Anthropic 这种自家有海量稳定负载的玩家做得来，长尾客户做不来——他们仍买 GPU。
四、账算出来的市场（市场已在投票）
- 博通定制硅需求 FY2026 ~$56B（+180%）、2027 目标 >$100B、backlog $73B[二档/指引，详见博通卡]——这是市场在为"推理 ASIC 账成立"投票。
- 但 GPU 守住四块地盘：前沿训练、灵活性、商用/长尾市场（所有非超大厂）、上市速度（GPU 今天能买，ASIC 要等两年）。
五、谁赢什么（分区，不是零和）
- 超大厂的大规模推理 → 越来越多倒向自研 ASIC。
- 前沿训练 + 商用/长尾 + 架构突变 → 仍是 GPU。
- 台积电两边都赢（中性）——通用还是定制都要它造。
六、变体观点框架（alpha 所在）
- 共识："ASIC 会侵蚀英伟达。"——已 price in 一部分。
- 更锋利的两个问题：
- 速度：推理迁向 ASIC 多快？这是英伟达 2027 组合/毛利率的头号 swing。
- 灵活性反转：会不会一次模型架构突变就让 ASIC 的优势归零、把份额还给 GPU？（多头的最强反驳）
- 可证伪 / 盯什么（2–4 季）：
- 超大厂自研芯片在自家推理算力中的占比是否上升；
- 博通/Marvell 定制 backlog 与大客户订单动向；
- 英伟达是否推出针对推理性价比的专门产品线（防守动作）；
- 英伟达数据中心毛利率拐点（连续两季下行 = 竞争在咬）。
七、诚实边界
- 本篇是账的结构 + 框架，判断类为主（看逻辑）。承重数字（博通 backlog、英伟达毛利率）以各公司卡第一档/指引口径为准，本篇只引用不重新背书。
- "ASIC 更便宜"在超大厂自家固定负载下成立，不能外推到所有人、所有负载——这正是账"有条件"的含义。
- 与 CUDA 专题互为前提：推理侧软件锁松动得越快，本篇 ASIC 账越成立。