模型技术态势(模型往哪走 → 钱往哪层流)

技术卡 · 瓶颈地图更新 2026-07-04≈9 分钟读完
本页目录(7 节)

最近更新:2026-07-04 🔄 半活卡(框架稳定;下方「当季快照」每季随技术雷达刷新,见宪法 Part 3·L) 关联:横跨第 2 层(模型,多非上市)与它的 capex 去向 L4/L5/L7;相关公司卡 英伟达 NVDA(训练/高端算力)、博通 AVGO(推理 ASIC)、美光 MU(内存带宽)、Qualcomm QCOM(端侧推理)、谷歌 GOOGL(全栈自有 TPU+DeepMind)。投资判断在那边,本卡不展开。

这张卡特殊:它不是硬件瓶颈,而是"技术需求的形状"地图——模型技术往哪个方向发展,决定了天量 capex 变成谁的订单(高端 GPU?推理 ASIC?内存?端侧?电力?)。是判断 capex 结构(而非总量)的技术底座。总量悬念见 ROI 缺口;单位成本见 推理成本栈;本卡管"结构"。 ⚠️ 本卡判断成分高于普通瓶颈卡:技术事实(scaling 三条腿存在、test-time compute 是新范式)标 T1;趋势判断(预训练是否撞墙、开源差距走向)多为 T2/争议中,明确标注、不当定论。

一句话瓶颈(其实是"路由器")

同样一笔 AI 预算,可以花在"训练一个更大的模型"上,也可以花在"让模型推理时想更久"上——这两种花法喂饱的是产业链完全不同的环节。模型技术正在从前者向后者偏移,这个偏移决定了英伟达的高端算力、博通的推理 ASIC、内存、端侧、电力谁多吃、谁少吃。"模型怎么变强"这件事,是整条 capex 链的分流阀。

原理:讲到你能复述

框架一:模型变强的三条腿(scaling 的三个阶段)

模型能力提升,2026 年靠三条腿,每条腿吃的算力"形状"不同:

是什么(大白话)算力形状主要利好谁
① 预训练 scaling拿更多数据、更大模型、更多算力"从头喂"出一个基础模型——经典的"越大越聪明"(Chinchilla 定律)训练:一次性、超集中、要几万张卡在一个集群里紧密协同英伟达高端 GPU(NVLink 把成千卡连成"一台大机器")、HBM 带宽、超大集群电力
② 后训练 scaling基础模型练好后,用人类反馈/AI 反馈/强化学习打磨它,尤其是"教它推理"(o1/R1 那套 RL)半训练半推理:训练中要海量生成"草稿"再打分,更零散、更异构介于两者之间;利好灵活算力、也吃推理芯片
③ 推理时计算(test-time compute)不换更大的模型,而是让它答题时想更久——写一长串思考过程、试多条路再选最优(o1/o3/推理模型范式)推理:每次回答烧掉成倍的 token,且随用量递增、分布式、可下沉到便宜芯片推理 ASIC(博通/Marvell 做的 XPU)、端侧(Qualcomm)、以及"推理也要快"时仍利好高端算力

为什么这是 2026 最重要的技术转变:能力增量的来源,正从"①预训练"向"②后训练 + ③推理时计算"迁移。这不是小事——它把算力需求从"一次性、集中、训练"往"recurring、分布式、推理"推

框架二:训练:推理算力比 —— capex 结构的总旋钮

问题不是"AI 还要不要算力"(要),而是"下一块钱买的是哪种算力": - 若预训练仍是主战场 → 利好英伟达高端 GPU 的定价权(集群协同壁垒最深)、HBM、集中式大电力。 - 若推理(尤其 test-time)成主战场 → 利好推理 ASIC(性价比胜通用 GPU)、端侧、分布式部署;英伟达高端溢价被侵蚀的风险上升(这正是 台账 L-01 英伟达"利润率持久性"之争的技术侧)。 - 但 test-time compute 是英伟达的对冲:如果"想得久"需要又快又强的推理,高端算力在推理端也保住溢价——所以别简单下"推理=英伟达输"的结论。

框架三:开源 vs 前沿的差距 —— 决定价值留在模型层还是流走

新手词汇表

当季快照(🔄 每季技术雷达刷新,带日期;下面是首版占位,多为 T2/待核)

⚠️ 本节是会过期的读数,与上面的稳定框架分开。首版基于建卡时的公开认知,多项为 T2/争议中、待技术雷达回 T1 核实

2026-Q3 快照(2026-07-04;✅ 已过 F3 技术雷达回核,见 报告/技术雷达日志.md

技术因果:卡住谁 / 利好谁(按方向,非当下定论)

📌 对投资的含义(一行,详见公司卡)

模型技术往"推理 + 推理时计算"偏移,是 capex 从"英伟达高端训练集群"向"推理 ASIC/端侧/分布式"分流的技术信号——但 test-time compute 让推理也吃高端算力,是英伟达的对冲,别简单下"推理=英伟达输"。 详见 英伟达(L-01 利润率持久性)、博通Qualcomm谷歌;模型层怎么持有见 模型层地图;单位成本见 推理成本栈

更新日志

来源:scaling 定律/test-time compute 范式 [T1·公开论文(Chinchilla、o1/推理模型技术报告)];预训练撞墙/开源成本/差距压缩 [T2·争议中,待技术雷达回 Epoch/MLPerf/论文核实];实验室与持有结构见 模型层地图