互联与网络(AI 集群的"血管"——第 5 层的瓶颈地图)
最近更新:2026-06-28 关联:第 5 层(芯片/硬件,互联子层);相关公司卡 英伟达 NVDA(NVLink/Spectrum-X)、Arista ANET(AI 以太网)、博通 AVGO(交换 ASIC)、Marvell MRVL(光互联 DSP)、Coherent COHR、Lumentum LITE(光模块)、Nokia NOK(光网络/IP)。投资判断在那边,本卡不展开。
一句话瓶颈
单颗 GPU 再强,AI 训练要把几万到上百万颗 GPU 当成一台机器协同算——它们之间的"对话"(互联)一旦跟不上,再多 GPU 也只能互相干等。当集群大到一定规模,瓶颈从"算力"变成"怎么把算力连起来"。这层就是 AI 集群的血管。
原理:讲到你能复述
- 为什么互联会成为瓶颈:训练一个大模型,要把它切成很多块分给成千上万颗 GPU,每算一步,GPU 之间就要互相交换海量中间结果(梯度同步)。集群越大,这种"交换"的总量呈指数级上涨。如果 GPU 算得快、但彼此"传话"慢,算力核心就空转等数据——互联带宽 = 集群能不能跑满的天花板。
- 两种互联,两个战场:
- 为什么必须上光(铜缆到头了):电信号在铜缆里传,超过约 3–5 米,功耗和衰减就撑不住——一个百万卡集群若全用铜,光互联功耗就能吃掉算力功耗的一大半。所以机柜之间必须用光:把电信号转成光、用光纤传、再转回电。这就是光模块/光收发器(800G → 1.6T)爆发的根。
- 光模块里有什么:① 光器件/激光(把电变光、光变电)——Coherent、Lumentum;② DSP 芯片(PAM4/相干,给信号纠错整形)——Marvell、博通。两者装进同一个模块,是亦敌亦友的搭档。
- 下一步往哪走(在松动的地方):① CPO(共封装光学)——把光直接封到交换芯片旁边,省掉可插拔模块的功耗(颠覆性,但也可能冲击现有光模块);② OCS(光交换机)——用光直接交换、绕开电交换(谷歌在用)。这两个是互联的下一代变量。
新手词汇表(看懂这张卡需要的几个词)
- Scale-up vs Scale-out = 机柜内紧密互联(NVLink,短)vs 机柜间组网(以太网/InfiniBand,长)。
- NVLink = 英伟达的机柜内超高带宽互联(铜为主、短距、自家最强)。
- 以太网 / InfiniBand = 两种集群间组网标准;以太网开放、InfiniBand 英伟达主导。
- 光模块 / 光收发器 = 把电↔光互转、让信号能走远距的器件(800G→1.6T 是代际)。
- DSP(光互联) = 模块里给高速信号纠错整形的芯片(Marvell/博通)。
- CPO(共封装光学)/ OCS(光交换) = 互联的下一代方案,省功耗/绕电交换。
现状与路线图(技术地图,非买卖建议)
- 关键数字:铜缆 >3–5 米不可行 → 光互联刚需;可插拔光模块市场 2025 ~$10B → 2030 ~$40–50B(CAGR ~30–35%);800G 主流、1.6T 正大放量。
- 这层的子环节(份额=技术/产能卡位):
| 环节 | 干什么 | 代表上市公司 | 备注 |
|---|---|---|---|
| 机柜内 Scale-up | GPU 紧密互联 | 英伟达(NVLink) | 英伟达自家最强 |
| 交换芯片(ASIC) | 交换机的"大脑" | 博通(Tomahawk/Jericho) | Arista 等的硬件基础 |
| 以太网交换(Scale-out) | 集群间组网 | Arista、英伟达(Spectrum-X)、思科 | 以太网 vs 英伟达专有之争 |
| 光互联 DSP | 模块内信号整形 | Marvell、博通 | 装进光模块 |
| 光模块/光器件 | 电↔光互转、走长距 | Coherent、Lumentum | 800G→1.6T 放量 |
| 光网络/IP(DCI) | 数据中心间长距传输 | Nokia、Ciena | AI 数据中心光纤流量爆发 |
技术因果:卡住谁 / 利好谁
- 卡住:所有想把集群从万卡扩到百万卡的超大厂——互联带宽/功耗是它们规模化的物理天花板。
- 利好:交换(博通 ASIC + Arista 以太网)、光互联(Coherent/Lumentum 器件 + Marvell/博通 DSP)、光网络(Nokia)、机柜内(英伟达 NVLink)。
- 头号变量:以太网 vs 英伟达专有互联(Arista/博通阵营 vs 英伟达 NVLink+Spectrum-X+InfiniBand 想把"集群内+集群间"都吃下);以及 CPO/OCS 是否颠覆现有可插拔光模块(利好谁、冲击谁未定)。
📌 对投资的含义(一行,详见公司卡)
→ AI 集群规模化的确定性刚需(铜到头、必须光),但商品化 + 中国竞争 + CPO 颠覆是天花板,且光模块名字(Lumentum ~22x 销售)估值已高;估值/多空/盯什么见交换 Arista/博通、光模块 Coherent/Lumentum、DSP Marvell、光网络 Nokia、机柜内 英伟达。
更新日志
- 2026-06-28 建卡:补上互联这一最大的技术卡留白(此前 Arista/Nokia/Coherent/Lumentum/Marvell 都有公司卡,却无统一的"瓶颈地图")。讲清 Scale-up(NVLink) vs Scale-out(以太网/InfiniBand)、铜缆到头必须上光、光模块=器件(Coherent/Lumentum)+DSP(Marvell/博通)、下一代 CPO/OCS。
来源:光互联市场规模/铜缆距离限制/Scale-up vs Scale-out [主流来源 + 前序语料 Marvell 章];各环节份额/产品见相关公司卡(第一档)。