模型技术态势(模型往哪走 → 钱往哪层流)
本页目录(7 节)
最近更新:2026-07-04 🔄 半活卡(框架稳定;下方「当季快照」每季随技术雷达刷新,见宪法 Part 3·L) 关联:横跨第 2 层(模型,多非上市)与它的 capex 去向 L4/L5/L7;相关公司卡 英伟达 NVDA(训练/高端算力)、博通 AVGO(推理 ASIC)、美光 MU(内存带宽)、Qualcomm QCOM(端侧推理)、谷歌 GOOGL(全栈自有 TPU+DeepMind)。投资判断在那边,本卡不展开。
这张卡特殊:它不是硬件瓶颈,而是"技术需求的形状"地图——模型技术往哪个方向发展,决定了天量 capex 变成谁的订单(高端 GPU?推理 ASIC?内存?端侧?电力?)。是判断 capex 结构(而非总量)的技术底座。总量悬念见 ROI 缺口;单位成本见 推理成本栈;本卡管"结构"。 ⚠️ 本卡判断成分高于普通瓶颈卡:技术事实(scaling 三条腿存在、test-time compute 是新范式)标 T1;趋势判断(预训练是否撞墙、开源差距走向)多为 T2/争议中,明确标注、不当定论。
一句话瓶颈(其实是"路由器")
同样一笔 AI 预算,可以花在"训练一个更大的模型"上,也可以花在"让模型推理时想更久"上——这两种花法喂饱的是产业链完全不同的环节。模型技术正在从前者向后者偏移,这个偏移决定了英伟达的高端算力、博通的推理 ASIC、内存、端侧、电力谁多吃、谁少吃。"模型怎么变强"这件事,是整条 capex 链的分流阀。
原理:讲到你能复述
框架一:模型变强的三条腿(scaling 的三个阶段)
模型能力提升,2026 年靠三条腿,每条腿吃的算力"形状"不同:
| 腿 | 是什么(大白话) | 算力形状 | 主要利好谁 |
|---|---|---|---|
| ① 预训练 scaling | 拿更多数据、更大模型、更多算力"从头喂"出一个基础模型——经典的"越大越聪明"(Chinchilla 定律) | 训练:一次性、超集中、要几万张卡在一个集群里紧密协同 | 英伟达高端 GPU(NVLink 把成千卡连成"一台大机器")、HBM 带宽、超大集群电力 |
| ② 后训练 scaling | 基础模型练好后,用人类反馈/AI 反馈/强化学习打磨它,尤其是"教它推理"(o1/R1 那套 RL) | 半训练半推理:训练中要海量生成"草稿"再打分,更零散、更异构 | 介于两者之间;利好灵活算力、也吃推理芯片 |
| ③ 推理时计算(test-time compute) | 不换更大的模型,而是让它答题时想更久——写一长串思考过程、试多条路再选最优(o1/o3/推理模型范式) | 推理:每次回答烧掉成倍的 token,且随用量递增、分布式、可下沉到便宜芯片 | 推理 ASIC(博通/Marvell 做的 XPU)、端侧(Qualcomm)、以及"推理也要快"时仍利好高端算力 |
为什么这是 2026 最重要的技术转变:能力增量的来源,正从"①预训练"向"②后训练 + ③推理时计算"迁移。这不是小事——它把算力需求从"一次性、集中、训练"往"recurring、分布式、推理"推。
框架二:训练:推理算力比 —— capex 结构的总旋钮
- 一个模型的一生:训练一次(花一大笔),然后服务上亿次(每次一小笔,但累积起来超过训练)。行业成熟后,推理算力占比会持续超过训练——这是结构性方向 [T1·行业共识]。
- ③推理时计算是加速器也是搅局者:它让推理本身变得很吃算力(推理模型答一道题烧的 token 是普通回答的几十倍),所以"转向推理" ≠ "算力需求变小",而是"算力需求换了个地方、换了种芯片偏好"。
- 对投资的结构含义(本卡题眼):
问题不是"AI 还要不要算力"(要),而是"下一块钱买的是哪种算力": - 若预训练仍是主战场 → 利好英伟达高端 GPU 的定价权(集群协同壁垒最深)、HBM、集中式大电力。 - 若推理(尤其 test-time)成主战场 → 利好推理 ASIC(性价比胜通用 GPU)、端侧、分布式部署;英伟达高端溢价被侵蚀的风险上升(这正是 台账 L-01 英伟达"利润率持久性"之争的技术侧)。 - 但 test-time compute 是英伟达的对冲:如果"想得久"需要又快又强的推理,高端算力在推理端也保住溢价——所以别简单下"推理=英伟达输"的结论。
框架三:开源 vs 前沿的差距 —— 决定价值留在模型层还是流走
- 机制:开源权重模型(Llama/DeepSeek/Qwen/Mistral)与闭源前沿(GPT/Claude/Gemini)的能力差距,是"模型层能不能收到钱"的总阀门。
- 差距小 → 模型能力商品化 → 价值从模型层流走,流向 ① 卖铲人(基础设施更确定)② 应用/分发层(谁触达用户谁赢)。这正是 台账 L-15"价值上移到应用层没干净发生、卖铲人比应用层确定"的技术根。
- 差距重新拉大(如某家靠海量 test-time compute 或新架构再度甩开)→ 前沿实验室保住定价权 → 利好其 proxy(微软/亚马逊/谷歌,见 模型层地图)。
新手词汇表
- scaling law(缩放定律) = 经验规律:算力/数据/参数越多,模型越强,但收益递减。
- 预训练 / 后训练 = 先"从头喂"出基础模型(预训练),再"打磨对齐 + 教推理"(后训练)。
- RL / 推理模型 = 用强化学习教模型"一步步想",产出会先写一长串思考再给答案(o1/o3/DeepSeek-R1 这类)。
- test-time compute(推理时计算) = 答题时多花算力换更好答案(想更久、试更多条路),而不是换更大的模型。
- 数据墙(data wall) = 高质量训练文本快用完了,预训练"多喂数据"这条腿的天花板。
- 开源权重模型 = 参数公开、可自行部署的模型(Llama/DeepSeek 等),是商品化压力的来源。
- 蒸馏/合成数据 = 用强模型造训练数据喂给别的模型,是绕过数据墙、也是缩小开源差距的手段。
当季快照(🔄 每季技术雷达刷新,带日期;下面是首版占位,多为 T2/待核)
⚠️ 本节是会过期的读数,与上面的稳定框架分开。首版基于建卡时的公开认知,多项为 T2/争议中、待技术雷达回 T1 核实。
2026-Q3 快照(2026-07-04;✅ 已过 F3 技术雷达回核,见 报告/技术雷达日志.md)
- 预训练:"朴素预训练边际递减 + 数据墙"已是多源广泛共识(不再是"仅叙事");但不是能力天花板——前沿转向 test-time compute。同时 Epoch:算法效率 ~3.0×/年(达同等能力所需算力,doubling 7.6 月)[T2·Epoch]。⚠️ 但训练算力仍 +5×/年、部署芯片总算力 +3.4×/年(超大厂用行动押"更大集群仍值得")——效率快 ≠ 需求缩,Jevons 正赢。
- 后训练 + 推理时计算:test-time compute 已成公认的"第三缩放律"(o1/o3 推理范式),有 T1 论文支撑(arXiv 2604.01411《Test-Time Scaling Makes Overtraining Compute-Optimal》)。这是"算力向推理迁移"叙事的硬核依据。
- 开源差距:大幅收窄——硬数据:MMLU 差距一年内 17.5pp → 0.3pp;DeepSeek V4(2026 初)前沿级(SWE-bench 83.7%)、价格约低 13×;MoE 是主因(235B 总参数只激活 22B)[T2·benchmark 聚合]。→ 坐实"模型层商品化"、本季推动 L-15 65%→68%。前沿能否靠 test-time compute 再拉开=下季盯。
- 对 capex 结构的当季读数:方向偏"推理占比上升 → 推理 ASIC/端侧受益、英伟达高端溢价承压";但 test-time compute 让推理也吃高端算力这条对冲被强化(Blackwell Ultra 横扫 MLPerf v6.0 推理榜=高端在推理端仍强),故仍未到"推理=英伟达输"的结论。⚠️ 定制 ASIC 基本没交 MLPerf,其"推理性价比胜 GPU"无公开 benchmark 佐证=信息盲区。
技术因果:卡住谁 / 利好谁(按方向,非当下定论)
- 若迁向推理/test-time:利好 博通/Marvell 推理 ASIC、Qualcomm 端侧、应用层落地;英伟达推理端份额承压但训练端 + "快推理"仍强。
- 若预训练仍是主战场:利好 英伟达 高端集群定价权、HBM/美光、集中式大电力。
- 开源差距压缩:价值流出模型层 → 卖铲人 + 应用层(L-15);利好全栈自有、不靠卖模型赚钱的 谷歌(TPU 自用 + Gemini 织进主业)。
- 数据墙:gating 预训练这条腿;利好合成数据/蒸馏能力强者,间接抬高"后训练 + 推理"的相对重要性。
📌 对投资的含义(一行,详见公司卡)
→ 模型技术往"推理 + 推理时计算"偏移,是 capex 从"英伟达高端训练集群"向"推理 ASIC/端侧/分布式"分流的技术信号——但 test-time compute 让推理也吃高端算力,是英伟达的对冲,别简单下"推理=英伟达输"。 详见 英伟达(L-01 利润率持久性)、博通、Qualcomm、谷歌;模型层怎么持有见 模型层地图;单位成本见 推理成本栈。
更新日志
- 2026-07-04 建卡(F2 队列,宪法 Part 3·F,半活卡):补 capex 结构的技术底座——scaling 三条腿(预训练/后训练/推理时计算)各自的算力形状 + 训练:推理比这个总旋钮 + 开源差距决定价值去留。稳定框架与「当季快照」分开。建卡本身未改概率(机制地图非新证据)。
- 2026-07-04 F3 技术雷达首刷「当季快照」(同日,见
报告/技术雷达日志.md2026-Q3):预训练撞墙/test-time compute 从 T2 争议 → 更硬共识(含 T1 论文);开源差距补硬数据(MMLU 17.5→0.3pp、DeepSeek V4);补 Epoch 算力增速(训练 +5×、芯片存量 +3.4×/年=Jevons 正赢);据开源硬数据推动 L-15 65%→68%(本项目台账首次因雷达数据调概率)。
来源:scaling 定律/test-time compute 范式 [T1·公开论文(Chinchilla、o1/推理模型技术报告)];预训练撞墙/开源成本/差距压缩 [T2·争议中,待技术雷达回 Epoch/MLPerf/论文核实];实验室与持有结构见 模型层地图。