行业深度研究 / 2026-05-28
范式压力测试:ASIC、算法、拓扑三道考题
Micron SCA 系列第二篇,从加速器架构、模型算法与系统拓扑三个方向,压力测试 HBM 产业需求与 Micron 个体份额。收录中文 v9 与 CoWoS-L errata。
Micron SCA 系列第二篇 — 如果地基会松动,会从哪一边松动
草稿 v9 — v8 + Micron base die 二次核查修订:Mehrotra 2025-09-23 Q4 FY25 已亲口披露 HBM4 base die 自家 in-house、HBM4E base die 转 TSMC(2027 量产)。原"路线未公开"框架推翻,改为"Micron 两步走 + Micron 自家承认 in-house 在 HBM4E 撑不住"的更强论证。
开篇 — 三道考题
第一篇里我们建立了基本判断:HBM 是当前 AI 算力体系的物理咽喉。大语言模型在生成 token 的过程里,把"搬数据"的速度推到几乎不可越的瓶颈;一颗 NVIDIA Rubin GPU 挂 8 颗 HBM4 给出 22 TB/秒带宽,下一代 Rubin Ultra 计划每 package 上 16 颗 HBM4E、容量 1 TB。整个产业链的话语权,从算力侧(NVIDIA)悄然移到存储侧(SK Hynix、Samsung、Micron)。
Mehrotra 的 SCA 重定义建立在这套地基之上。如果地基稳,五年期合约就有真实的现金流支撑;如果地基正在被替换,合约的"穿越周期"承诺就只是法律文本。
地基会被什么替换?有三种结构性力量值得逐一压力测试 — 也是接下来三章的主题。
一、加速器架构(custom ASIC 的浪潮) — 过去 18 个月里,custom ASIC 从 hyperscaler 内部实验,变成万亿美金量级的并行生态。Google TPU v7 Ironwood(每颗 192GB HBM3E,9,216 颗一组)、AWS Trainium 3(Alchip 后端设计,Marvell 这一代丢掉 socket)、Microsoft Maia 200(216GB HBM3E,Marvell 协同设计,2026 年 1 月部署到 Azure 美国中部 Des Moines)、Meta MTIA Iris(Broadcom 协同,2026 量产)、AMD MI455X(每颗 432GB HBM4,Helios 机架 31TB)— 五条不同的 ramp 曲线在同时上量。每一颗芯片都需要海量 HBM,但几乎没有一颗主供落到 Micron。这道考题在问:ASIC 浪潮加起来分流的是 NVIDIA 的 HBM 真实增量,还是把整个 HBM TAM 撑得更大?
二、模型架构(算法层面的攻击) — 让 LLM 不那么依赖海量 token-by-token 生成的算法变化,有三种方向在同时演化:稀疏化(DeepSeek V3 用 671B 总参数但每 token 只激活 37B,Kimi K2 用 1T 参数但激活仅 32B,Llama 4 Maverick 400B/17B)、替换 attention(Mamba 这类 state-space model 完全绕过 attention,IBM Granite 4、AI21 Jamba、MiniMax-01 用 SSM-transformer 混合架构跑通生产)、更长思考(OpenAI o 系列、DeepSeek R1、Anthropic 扩展思考、Gemini Thinking 把每查询 token 数从几千推到几万)。三种方向并不一致 — 有些是 HBM 的盟友,有些是 HBM 的对手。这道考题在问:如果西方某家 frontier lab(OpenAI / Anthropic / Google DeepMind / Meta)在 2026-2027 推出一款基于 hybrid SSM 的旗舰模型,HBM 的瓶颈地位会被部分解除吗?
三、系统拓扑(机架架构的转向) — NVIDIA NVL72 这种把 72 颗 GPU 装在一个机架、互相高速访问的设计(scale-up)是不是会一直主导?如果未来转向 scale-out(分布式更多更小的节点)、用 co-packaged optics(光纤代替铜缆)突破 scale-up 的物理边界、或者通过 CXL memory pooling(让 GPU 共享一个远端内存池)摆脱 HBM 的"必须坐在 GPU 旁几毫米"的物理约束 — 每个机架对 HBM 浓度的依赖会下降吗?UALink consortium(AMD / Broadcom / Cisco 等联合的 NVLink 替代标准)2025 年 4 月发布 200G 1.0 规范,2026 年下半年硅片可用;Broadcom Tomahawk 6 Davisson 102.4 Tbps CPO 交换芯片 2025 年 10 月公布并向早期客户 sampling,2026 是 qualification 年(同系列标准款 Tomahawk 6 2026-03 进入 volume production,但 Davisson CPO 集成版本仍在认证)— 这些事件让"NVL72 范式不变"这件事开始需要重新检查。
接下来三章,每章对应一道考题。证据 + 判断都在章末给出。最后一章是辩证合题:三道考题加起来,Mehrotra 的 SCA 重定义在产业层面(整个 HBM TAM)和 Micron 个体层面(MU 在这个 TAM 里能拿到多少)上,各自能不能站住。
Ch 2 — ASIC 考题
要回答"ASIC 浪潮把 HBM TAM 撑大还是分流",得先看每颗 ASIC 在用多少 HBM。
每一颗头部 ASIC,都是 HBM 大户
直觉上很多人以为"ASIC 是省钱的替代品 — 应该比 GPU 用更少的 HBM"。事实并非如此。当前在 ramp 的训练级 ASIC,每颗芯片的 HBM 容量分布在 NVIDIA 同代旗舰区间或更高:多数 ASIC(TPU v7 192GB、Maia 200 216GB、Trainium 3 144-192GB、MTIA 192GB+)与 NVIDIA B200 / B300 一档 192-288GB HBM3E 同档;AMD MI455X 反向往上做到 432GB HBM4,高于 NVDA Rubin 288GB,只低于 Rubin Ultra 1TB HBM4E。没有"ASIC 省 HBM"这一说。论证 HBM TAM 撑大的核心机制不是"ASIC 比 NVDA 更费 HBM",而是"per-chip HBM 不让步 × ASIC volume 在 2026 集中起量,加总与 NVIDIA 同一量级":
- NVIDIA H100(基线) — 80GB HBM3,SK Hynix 主供
- NVIDIA B200(2025-2026 主力) — 192GB HBM3E,SK 主、MU 二、Samsung 三
- NVIDIA Vera Rubin VR200(H2 2026 旗舰) — 288GB HBM4,三家具体份额尚未由 NVIDIA 官方披露;sell-side specialist(Castellano、SemiAnalysis)判断 SK 主、Samsung 次、MU 接近零
- AMD MI300X / 325X / 355X(在产) — 192-288GB HBM3 / HBM3E,SK 主供 + MU 部分
- AMD MI455X / Helios(H2 2026) — 每颗 432GB HBM4,72-GPU 机架共 31TB HBM4,Samsung 通过 2026-03-18 AMD-Samsung MoU 主供
- Google TPU v7 Ironwood(2026 ramp) — 192GB HBM3E,9,216 颗一组,4,614 FP8 TFLOPS,SK 主供,MU 未在名单
- AWS Trainium 3(2026 ramp) — 144-192GB HBM3E / HBM4,Alchip 后端设计(Marvell 在这一代丢掉 socket),SK / Samsung 主供
- Microsoft Maia 200(2026-01 部署到 Azure 美国中部 Des Moines) — 216GB HBM3E,3nm TSMC,140B+ 晶体管,Marvell 协同设计,MU 未在名单
- Meta MTIA Iris / 300(2026 量产) — 192GB+ HBM3E,Broadcom 协同,SK / Samsung 主供
- NVIDIA Rubin Ultra(NVL576,2H 2027) — 每 package 1TB HBM4E,16 颗 stack — HBM 容量在两年半内增长 3.5×
每颗芯片都是 HBM 大户,而且单芯 HBM 容量还在加速增长。
加总:ASIC 浪潮在撑大 HBM TAM,不在分流
把这些项目加起来,2026 年 HBM 消耗的尺度大致(粗略量级,不同卖方模型差异 20%-40%):
- Google TPU v6+v7:300-500 万颗 × 96-192GB ≈ 400-800 PB HBM 当量
- AWS Trainium 2 / 2.5 / 3:100-200 万颗 × 96-144GB ≈ 150-300 PB
- AMD MI300 / 325 / 355 / 455X:50-100 万颗 × 192-432GB ≈ 150-350 PB
- Maia 200 + MTIA + 其他:总计 ~50-150 PB
- ASIC 合计 ≈ 750-1,500 PB HBM 当量
对比 NVIDIA Blackwell 家族(B100 / B200 / B300 / GB200)2026 年大约 50-60B 美金 run-rate × ~192GB ≈ 600-1,000 PB。
也就是说,ASIC 在 2026 年消耗的 HBM 大约等于、或略小于 NVIDIA 的总量。
Mizuho 估算 custom ASIC TAM 从 2025 年 ~$40B 增长到 2027 年 $130B+。这部分增量基本不是从 NVIDIA 蛋糕里切出来的,而是新增的 hyperscaler capex — Meta 6GW MI450 自定义芯片、OpenAI 1GW MI450 系列首批部署(2025-10 AMD-OpenAI 6GW 大单的第一阶段)、Anthropic-Google $200B / 5GW / 5 年 TPU 大单 — 都是在 NVIDIA capex 之上额外加的,不是替换。
ASIC 浪潮对整体 HBM TAM 是 net-positive。 这点对 SCA 重定义有利 — SCA 押注的是"未来五年存储需求结构性高位",ASIC ramp 给这件事提供了客户层面的双线确认(NVIDIA 走自家路线,五家 ASIC 走自家路线,两条线都在烧 HBM)。
但是 — Micron 在每一颗头部 ASIC 上几乎全部缺位
回到上面那个清单,看 Micron 自己的位置:
- NVDA H100 / B200 — 在,占比小(B200 上 MU 第二供应,但 SK 拿走大头)
- NVDA Vera Rubin VR200 — 未公开,sell-side 判断接近零(SK 主、Samsung 次,具体配比无 NVIDIA 官方披露)
- AMD MI300X-355X — 在,占比中等(MU 在这一代有可见收入,但份额小于 SK)
- AMD MI455X / Helios — 被替换出主供位(Samsung 通过 3/18 MoU 拿下)
- Google TPU v7 Ironwood — 未列名
- Google TPU v8 Sunfish / Zebrafish — 未列名(Broadcom / MediaTek 设计,2027)
- AWS Trainium 2-3 — 未公开列名
- Microsoft Maia 200 — 未列名
- Meta MTIA Iris / 300 — 未列名
- Meta MTIA 400 / 450 Arke — 未列名(Marvell 协同,2027)
- OpenAI Titan(Broadcom 设计,2026 Q3 启动)— TBD;Mizuho 估算 5 年 $150-200B 程序
Micron 当下在 HBM4 时代旗舰 socket 的命中率,是 0%。 MU 在 HBM4 的实际收入,结构上集中在三处:NVIDIA Rubin CPX(中阶非旗舰)、Samsung / SK 让出来的少数 co-source 名额、尚未确定的 sovereign AI(G42 / 沙特 HUMAIN / 欧盟 AI factories)等开放 RFP。
"更少 HBM"那条路有没有走通?
ASIC 的另一种叙事是 SRAM-only 或 transformer-specific 这条线 — 如果某种架构能把 HBM 直接从加速器里去掉,HBM 整个 TAM 都会受冲击。代表选手:
- Cerebras WSE-3 — 整片晶圆做一颗芯片,44GB on-die SRAM,0 HBM;850K 个 core
- Groq LPU — 230MB on-chip SRAM,0 HBM;面向超低延迟 inference
- Etched Sohu — transformer-only ASIC,用 HBM 但因为只跑 transformer 不跑别的,HBM/FLOP 比正常 GPU 低 30%(粗略,基于 Etched 公开 marketing 与第三方推算)
- Tenstorrent Wormhole / Blackhole — 用 GDDR6 而不是 HBM,开源 RISC-V 架构
但 2026 现实:这四家加起来 < 全部 AI 加速器 capex 的 5%。没有一家 hyperscaler 给出规模订单 — Cerebras 主力客户是 G42 / 沙特 PIF,Groq 是自家 inference cloud,Etched 还在 sampling 阶段,Tenstorrent 商业收入 < $50M 年化。Intel 收购 Tenstorrent 的传闻 5/19 出来但未确认。
结构性威胁存在,但 2026-27 不构成实质性压力。如果 Cerebras / Groq / Etched 这一类 SRAM-heavy 设计在 2028 之后被任何一家 hyperscaler 实际采购到 GW 级别 — 才是 HBM TAM 真正的转折点。
章末判断
HBM TAM 在 ASIC 浪潮下结构性扩张:ASIC 不是 NVIDIA 的替代品,是 NVIDIA 之上 additive 的层,而且每颗都用海量 HBM。这条线对 Mehrotra 的"五年期周期"叙事是正向支撑。
Micron 在 HBM TAM 扩张里却分不到旗舰 socket 的份额:NVL72 0%、MI455X Samsung、TPU / Trainium / Maia / MTIA 均不在公开主供名单。MU 在 HBM4 时代的收入,结构上集中在中阶 socket + co-source 残余 + sovereign 优选。这部分稳定但有天花板。
第一道考题的结论:SCA 重定义在产业层面成立,在 Micron 个体层面打折。
真正能改变这个判断的,是 Mehrotra 首签 SCA 的对手方身份 — 如果是 Broadcom-OpenAI Titan 这类我们既未列入"主供"也未列入"出局"的开放 socket,Micron 可能在 2027 把 ASIC 浪潮里的一部分增量真正拿到手里。这个变量到 2026 年下半年才会陆续 surface — 也是我们追踪 Q3 FY26 现金流和 customer prepayments 科目的真正用意所在。
Ch 3 — 算法考题
第一道考题(ASIC)的结论是 HBM TAM 在硬件层面被撑大,Micron 的份额被结构性边缘化。第二道考题问的是另一个方向:LLM 算法本身有没有可能演化成不再那么吃 HBM 的形态?
回到第一篇里建立的物理基础:LLM 每生成一个 token,都要把之前所有 token 的 KV cache 全部从 HBM 加载到 SRAM 一次。这就是 HBM 瓶颈的物理来源。
三种主要方向正在同时演化,每一种都试图以不同方式重写"每生成一个 token 都要全量遍历 KV cache"这件事。第四种方向 — 把模型直接搬到端侧 — 也时常被列入威胁清单,放到最后说为什么它是被高估的那一项。
稀疏化(MoE):capacity 上,bandwidth 下
Mixture-of-Experts(MoE)是当前最成熟、最广泛采用的方向。MoE 模型把权重切分成多个"专家"子网络,每生成一个 token 时,只激活其中一小部分专家来参与计算。
从 2024 年到 2026 年 4 月,在产 MoE 模型的 active-parameter 比率(被激活的参数 / 总参数)演化:
2024 baseline(高激活比 era):
- Mixtral 8x22B(Mistral,2024-04) — 141B / 39B,激活比 27.7%
- DeepSeek V3(2024-12) — 671B / 37B,激活比 5.5%(率先压到 5% 以下的中国旗舰)
2025 年中-下(中位收敛):
- Llama 4 Maverick(Meta,2025-04) — 400B / 17B,激活比 4.25%
- Llama 4 Behemoth 预览 — 约 2T / 288B,激活比 14.4%
- Qwen3-235B-A22B(Alibaba,2025-04) — 235B / 22B,激活比 9.4%
- Kimi K2(Moonshot AI,2025-07) — 1T / 32B,激活比 3.2%
- DeepSeek V3.2-Exp(2025-09) — 671B / 37B + DSA(DeepSeek Sparse Attention),内存再省 30-40%
- Mistral Large 3(2025-12) — 675B / 41B,激活比 6.1%(Mistral 第一个 sparse MoE 旗舰)
2026 年 4 月集中爆发(frontier 全面落到 3-6%):
- Gemma 4 26B MoE(Google,2026-04-02) — 26B / 3.8B,激活比 14.6%,8/128 expert routing
- GLM-5.1(ZAI,2026-04-07) — 754B / 40B,激活比 5.3%
- Kimi K2.6(Moonshot,2026-04-20) — ~1T / ~32B,激活比约 3.2%(K2 架构小升级,作为 K3 过渡)
- DeepSeek V4(2026-04-22) — 1T / ~32B,激活比 3.2%(V4-Pro 变种 1.6T / 49B);1M 上下文,全开源 MIT
- Qwen3.5-397B-A17B(Alibaba,2026-04) — 397B / 17B,激活比 4.3%
- Qwen3.6-35B-A3B(Alibaba,2026-04) — 35B / 3B,激活比 8.6%
- Grok 4 / 4.20(xAI,2026-04) — ~3T / ~500B,激活比约 17%(xAI 走相对密的 MoE 路线,与 DeepSeek / Kimi cluster 形成对照)
趋势曲线在两年内压扁了一个数量级: 2024 年 baseline 25-30% → 2025 年中 5-10% → 2026 年 4 月 frontier 集中在 3-6%(DeepSeek V4 和 Kimi K2.6 已经压到 3.2%)。按这个速率,2027 下半年的下一代可能压到 1-3%。
MoE 对 HBM 的两个相反方向:
- bandwidth(每秒搬多少数据)— 往下走:每生成一个 token 只要把被激活的那部分专家权重从 HBM 加载,不是全部。激活比从 30% 降到 3-5%,token-level bandwidth 需求降 6-10×。
- capacity(芯片要装多少 GB)— 往上走:但所有 expert 都必须 resident 在 HBM 里,因为路由决策在 token level 实时做,latency 不允许从 DDR 现取。DeepSeek V4 1T 模型 FP16 需要约 2 TB HBM 容量;Kimi K3(3-4T 计划)需要 6-8 TB,远超单 GPU 的 HBM,必须靠跨多 GPU 的 expert parallelism。
NVIDIA 在 GTC 2025 把 Rubin GPU 的 HBM 容量从原计划 192GB 抬到 288GB(B300 同档),路线图上 Rubin Ultra 直接到 1 TB — 这是英伟达对 MoE capacity-up 趋势的设计响应:少带宽、多容量。对 HBM 厂家是好事(per-package GB 上升 = 每颗芯片的 HBM stack 数上升)。
替换 attention:第一家 frontier lab 已经做了 — 只是它在中国
第二条线更激进。它试图把 attention 机制本身换掉。
标准 transformer 的 attention 是 O(n²) — 序列长度翻倍,attention 算力和 KV cache 都翻四倍。如果有架构能做到 O(n) 或 O(n log n),序列长度的增长就不再线性地推高 HBM 流量。
State-space model(SSM)与 linear attention 是这个方向的代表。Mamba(Albert Gu / Tri Dao,2023-12,COLM 2024 best paper)是开创性论文;Mamba-2(2024-05)证明 SSM 与线性 attention 数学等价。核心特点:根本不需要 KV cache — 模型用一个固定大小的"状态向量"累积上下文信息,每生成一个 token 只更新这个状态,不遍历历史。
2024 到 2025 这条路线先在中小厂跑通:Mistral Codestral Mamba 7B(2024-07,纯 SSM,代码任务超越 CodeLlama 34B)、AI21 Jamba 1.6(Hybrid Mamba + attention + MoE,52B/12B)、IBM Granite 4.0(2025-10,第一个 NVIDIA NIM + watsonx.ai + Dell 渠道分发的 hybrid SSM,marketing 直接用 "drastically reducing memory use without sacrificing performance")、MiniMax-01(2025-01,456B 参数 + Lightning Attention 7:1 + MoE,4M 上下文)。
真正的拐点发生在 2026 年 4-5 月 — Moonshot AI 把 hybrid linear attention 推进 frontier flagship 这一档:
- 2025-12 Moonshot 研究负责人在 Reddit AMA 确认 Kimi Linear attention 会装进 K3
- 2026 早期 Moonshot 发布 Kimi Linear standalone 独立模型 — KV cache 减 75%、1M-context 推理速度提升 2.9-6×
- 2026-04-20 Kimi K2.6 上线(K2 架构小升级,作为 K3 过渡基础)
- 2026 年 5 月,Kimi K3 计划上线:3-4 T 参数 + Kimi Linear 作为旗舰主架构(prediction market 曾在更早时点给出 70%+ 的 5 月发布概率,但 Manifold 5/27 实时读数已下修至 ~8% before June — K3 未在 5 月发,市场对 K3 即将发布的预期大幅回落)
Kimi Linear 不是论文实验,是已经发布的生产级别独立模型。它的设计选择:短距离用 softmax attention 保 reasoning 质量,长距离切换到 linear attention 大幅省 HBM 带宽。
这是第一家把 hybrid SSM-style attention 装进万亿参数级旗舰的 frontier lab — 只不过它在中国,不在美国西海岸。
OpenAI、Anthropic、Google DeepMind、Meta — 四家西方 frontier lab — 在已发布旗舰模型架构里,仍然没有任何一家公开承诺 hybrid SSM。LMSys leaderboard 前 10 名(以美国 / OpenAI 为主)目前没有一个是 sub-quadratic 或 hybrid。
但有意思的是 DeepSeek 的选择 — DeepSeek V3.2-Exp(2025-09)和 V4(2026-04)都没有走 SSM,而是给标准 transformer 加 DSA(DeepSeek Sparse Attention),让稀疏 attention 在 hardware 上 native 训练。两家最 efficiency-obsessed 的中国 lab 走了完全相反的两条路:Moonshot 直接换骨架(线性 attention 替代),DeepSeek 留在 attention 里优化(稀疏 attention 加速)。
哪条路最后赢,2026-2027 不会有定论。但有一条已经撞上 HBM 物理瓶颈了:如果 Kimi K3 在 5 月或 6 月真的兑现 KV cache -75%、推理 2.9-6× 这些指标,会成为下一阶段所有 frontier lab 的对比基线。OpenAI / Anthropic / Google DeepMind / Meta 要么跟,要么承担效率代差。
这道考题真正悬而未决的部分:Kimi K3 实际上线后的 token economics 是否兑现、以及西方 frontier lab 跟随的速度。如果 Claude 4.x、Gemini 4、或 Llama 5 任何一款在 2026-2027 公布架构卡时显示 hybrid linear / SSM 层 — HBM bandwidth 需求会出现历史性的台阶式下跌。这是 Mehrotra 五年期 SCA 最大的尾部风险,而且这个风险在 2026 年 5 月这个时点,已经从"理论可能"升级到"中国旗舰先跑,西方要么跟要么落后"。
更长思考(test-time compute):反方向 — HBM 的盟友
第三条线和前两条方向相反。Test-time compute,也叫 "reasoning model":让 LLM 在回答问题前先生成长串"思考过程"(chain of thought),用更多 token 换更高质量答案。
主要在产模型:OpenAI o1 / o3 / o4 / GPT-5、DeepSeek R1 / R1-0528、Anthropic Claude 3.7+ "extended thinking"、Google Gemini 2.0 / 3.x Thinking、xAI Grok 4 reasoning、Qwen QwQ、MiniMax-M1。
empirical 证据:DeepSeek 披露 R1-0528 在 AIME 数学竞赛上,平均每道题的 token 数从 12,000 翻到 23,000(2025-05)。reasoning query 的算力消耗是普通 chat completion 的 30-100×(OpenAI 公开估算)。
这对 HBM 是单向利好:
- token 数翻倍,KV cache 被搬运的次数翻倍
- 整个 inference workload 在 2026 年的占比正在结构性上升:多家卖方(Deloitte、Morgan Stanley、其他)估算 inference 占 AI 总算力的比例,从 2023 年的 1/3、2025 年的 1/2,扩张到 2026 年的 2/3
- reasoning model 是 inference TAM 增长的边际贡献者
如果这条线在 2026-2027 持续主导,HBM 带宽需求会被结构性推高,与 Lane 1+2 的下行压力部分对冲。
Test-time compute 与 Kimi Linear 还有一个微妙的互动:Kimi Linear 减的是"长距离 attention"的 KV 流量,但 reasoning 模型本身要生成更多 token — 这两个相反方向最后净效应是什么,要看 reasoning 链的长度分布。Moonshot 的赌注是 — reasoning token 数越多,linear attention 的省带宽优势越大。如果是这样,reasoning model + Kimi Linear 不是相互对冲,反而是相互放大,HBM bandwidth 需求被压更低。这条要看 K3 实际跑出来的 inference 经济学。
端侧模型:被高估的"威胁"
第四条线是把模型搬到手机 / PC 端运行,绕过数据中心。代表:Apple Intelligence Foundation Models(约 3B,Apple 自家芯片 + 2-bit QAT)、Microsoft Phi-4 / Phi-4-mini、Google Gemma 3 / Gemini Nano、Meta Llama 3.2 1B/3B、Mistral Ministral 3B/8B、Mistral Medium 3.5(128B dense,2026-04-29,定位企业 / 自托管)。
很多人担心这条线会大量分流数据中心 inference。但仔细看,Apple 的架构选择给出了答案:Apple Intelligence 是 hybrid 的 — 简单查询走端侧 3B 模型,复杂查询自动 fallback 到 Private Cloud Compute(Apple 自家 datacenter,仍然跑大模型)。端侧不替代云端,只是把最低端的查询从云端摘出去。
更重要的是:端侧 AI 对内存的影响,是在手机 / PC 的 LPDDR,不在数据中心的 HBM。这两个市场的供需是隔离的。Micron 的 mobile DRAM 业务(占其收入 32.3%)会受益于端侧 AI,但对 HBM 业务零影响。
把端侧 AI 当成对 HBM 的威胁,是混淆了内存的两个完全不同的市场。
章末判断
把四条线加起来:
- 稀疏化(MoE):bandwidth 下 / capacity 上 — 净对 HBM 持平偏正(2026 frontier 集中到 3-6% 激活比,NVIDIA Rubin 288GB / Rubin Ultra 1TB 路线就是对这条曲线的直接响应)
- 替换 attention(SSM / hybrid linear):这是 2026 年 5 月时点最大的变化。第一家 frontier lab(Moonshot)在 4-5 月把 hybrid linear attention 装进万亿参数旗舰(Kimi Linear standalone + Kimi K3),KV cache 减 75%、推理 2.9-6×。bandwidth + capacity 双向 down。西方四家还没跟,但参照系已经建立。
- 更长思考(test-time compute):bandwidth 强力 up — HBM 的盟友;与 Kimi Linear 组合可能放大节省,不是简单对冲
- 端侧模型:与 HBM 市场无关 — 被高估的威胁
净算法压力 in 2026-2028:HBM capacity 强力 up;HBM bandwidth 在 2026-05 时点已经不像 2025 年那样"几乎确定 up" — 取决于两件事:Kimi K3 实际 inference 经济学是否兑现、以及西方 frontier lab 跟随 Kimi Linear / hybrid SSM 的速度。
第二道考题的结论:算法层面对 HBM 的整体瓶颈地位仍然是 net-positive,但 2026 年 4-5 月的 Kimi Linear / Kimi K3 把尾部风险从"理论可能"升级到"中国旗舰先跑,西方要么跟要么落后"。
这是 SCA 重定义新的、最具时效性的 watch item — 在第一道考题"Mehrotra 首签 SCA 客户身份"之外,多了一道:Kimi K3 实际 token economics 验证 + 西方四家(OpenAI / Anthropic / Google DeepMind / Meta)在未来 6-12 个月架构卡的演化。
Ch 4 — 拓扑考题
前两道考题分别从加速器端(ASIC)和算法端(MoE / SSM / reasoning)压力测试 HBM 需求。第三道考题问的是更底层的问题:HBM 之所以变成咽喉,本质上是因为它必须坐在 GPU 旁边几毫米的物理位置上。如果未来这个物理约束被解开,HBM 浓度还需要这么高吗?
范式锚:NVL72 是"HBM 集中化"的当前极值
当下范式的物理体现是 NVIDIA NVL72。72 颗 Blackwell GPU + 36 颗 Grace CPU,装进一个机架,用 NVLink 5 串成一个共享内存域(NVLink Domain),整机架合计 13.5 TB HBM3E、约 130 TB/秒 GPU-to-GPU 带宽。这是"把所有 HBM 塞进同一个紧密物理空间"的极致工程化设计 — 让 KV cache 和模型权重切片放在同一个 NVLink fabric 上,inference 不需要跨机架走以太网 hop。
NVL72 是当前 hyperscale inference 的标准锚:Microsoft Azure ND v5、AWS Project Rainier、Oracle、CoreWeave 都是围绕这个机架形态部署(Anthropic 在 GCP 上的产能是 TPU pods,不属于 NVL72 体系)。下一代继承:Vera Rubin NVL144(144 个 Rubin GPU die / 72 个 package 单机架,合计约 20.7 TB HBM4)、Rubin Ultra NVL576(576 个 GPU die / 144 个 package,每 package 1TB HBM4E,机架合计约 144 TB)。每一代的设计逻辑都在把单机架 HBM 集中度往上推。
这就是 SK / Samsung / Micron 在 2025-2026 拿到的几何前提 — 客户在主动把 HBM 浓度推高,而不是平摊到多机架。
三股可能松动这个几何前提的力量
Optical Interconnect / Co-Packaged Optics(CPO)。 NVL72 的物理边界来自 NVLink 5 铜缆传输距离 — 一个机架内可行,跨机架就要降速。CPO 把光纤直接接在交换芯片上,理论上让跨机架延迟接近机架内。Broadcom Tomahawk 6 Davisson(102.4 Tbps,CPO 集成)2025-10 公布并向早期客户 sampling,2026 是 qualification 年(同系列标准款 Tomahawk 6 2026-03 进入 volume production,Davisson CPO 集成版本仍在认证);NVIDIA Quantum-X / Spectrum-X 也在 sampling;Marvell Lightwave 平台在路线图上。如果 2027-2028 跨机架延迟真的压到接近 NVLink fabric 水平,scale-up 单元不必再这么紧密,GPU 可以摊到多个机架。HBM TAM 不会缩,但 per-rack 集中度的物理逻辑会变弱 — 客户没有动机继续在单机架里堆这么多 HBM。这是中期(2028+)结构变量,不构成 2027 决议变量。
CXL Memory Pooling。 另一条路是让多台服务器共享一个远端内存池。CXL 3.0 / 3.1 规范允许 GPU 通过 fabric 访问远端 DRAM / HBM,概念上能把"每颗 GPU 必须坐在它自己的 HBM 旁"这件事解构掉。但实际 latency penalty 在数百纳秒量级 — KV cache 这种 hot path 上每生成一个 token 都要遍历的数据,根本承受不起。CXL pooling 在 2026 时点的实际落地是冷数据 / 数据库 buffer / training checkpoint 这一类场景,对 AI inference hot path 仍然不可行。这条线 hype 远大于 real,值得追踪但不构成结构变量。
UALink vs NVLink。 AMD、Broadcom、Cisco、Google、HPE、Intel、Meta、Microsoft 联合推出的 UALink Consortium 2025-04 发布 200G 1.0 规范,2026 H2 进入硅片可用阶段。这是 NVLink 在 scale-up 互连上的第一个开放替代标准。AMD MI455X Helios 机架(31 TB HBM4)就是头一个开放范式案例 — 单机架 scale-up 但不绑 NVIDIA 闭环。这条线对 HBM TAM 是中性的(机架内 HBM 浓度不会下降,只是不再走 NVLink),但对 NVIDIA 的 platform lock-in 是直接挑战。对存储厂三家是利好 — 客户端选择空间变大、议价权下降。
Micron 个体层面的 2027 供给侧变量:HBM4E base die 迁到 TSMC
NVL72 → NVL144 / NVL576 / Feynman 的演进,从拓扑层面给 HBM TAM 提供正向 forcing function。但HBM 价值链内部有一个结构性变化对 Micron 单独不利。
历来,HBM 由 8-16 片 DRAM die 堆叠在最底下的 base die 上。base die 负责 TSV 互连、I/O 接口、test 电路 — 用 14-10nm 后段制程,三家 DRAM 厂自己做。HBM4E 这一代,base die 开始加入 logic functionality(cache、processing-in-memory、安全模块) — 工艺要求从 14nm 后段跃迁到 4nm logic process。三家路径都已经公开,但分叉:SK Hynix 从 HBM4 起就走 TSMC N3 base die(2024-04-18 SK + TSMC 战略合作公布,已量产);Samsung HBM4 / HBM4E 全程留自家 Samsung Foundry 4nm logic base die(2026-03-18 AMD-Samsung MoU 确认);Micron 采取两步走 — HBM4 仍由 Micron 自家 advanced CMOS base die + 1β DRAM 制程内部生产,HBM4E 起 base logic die 转由 TSMC 代工(标准版与客户定制版都交 TSMC,2027 量产)。这条 Micron 路线由 CEO Sanjay Mehrotra 在 2025-09-23 Q4 FY25 财报电话会上亲口披露。
含义对 Micron 不利,而且 Micron 自己已经承认。 在 HBM3E / HBM4 时代,Micron 的 DRAM trailing-edge 工艺优势(良率、单 wafer 成本)是它对抗 SK / Samsung 的实际武器。HBM4 这一代,Micron 仍坚持自家 advanced CMOS base die,是三家里唯一一家没把 base die 推到 advanced logic 节点的 — 这是工艺优势的延续,但也意味着 logic functionality 上限低。HBM4E 一代,Mehrotra 自己 2025-09-23 在 Q4 FY25 电话会上把 base die 制造交给 TSMC — 这是 Micron 公开承认"in-house 在 HBM4E logic-on-DRAM 这条线上撑不住"的信号。TSMC 直接进入 Micron HBM4E 价值链,占走 base die 这一段以前完全属于 Micron 自家工艺的 rent;同时 Micron 在 advanced logic node 上没有 Samsung 那样的自家 foundry 兜底,定价权和供应锁定更被动。这是"Micron 在 HBM 桌上的相对位置"在 2027 之后供给侧的真正变量,跟 Ch 2 的"socket 命中率"不是同一类问题,但同样结构性 — 而且这次是 Micron 自己签字承认的。
章末判断
第三道考题的结论分两层:
产业层面(HBM TAM) — 拓扑演化在 2027 之前仍然 net-positive。NVL144 / NVL576 把 HBM 浓度推到极致;CPO 短期(2026-2027)不解构 HBM 需求,只是为 2028+ 解锁一个潜在松动方向;CXL pooling 在 AI hot path 上落地远未成熟;UALink 让 hyperscaler 多一个开放选项但机架内 HBM 浓度不变。三股力量短期都不会让 HBM TAM 缩,长期(2028+)只有 CPO 是真正的尾部变量。
Micron 个体层面 — 在 Ch 2 已经存在的"HBM4 旗舰 socket 命中率结构性偏低"之上,再叠加一道 HBM4E base die 工艺迁移到 TSMC 这条结构性削弱。MU 既要在客户端争 socket,又要在供给端面对 TSMC 进入价值链 — 两头同时受压。
第三道考题的 watch item:Micron HBM4E 在 TSMC 的 base die ramp 节奏与良率(TSMC 节点目前业内传 N3P 但 Micron 未正式确认),以及 Micron 在客制 base die 上能拿到多少超大规模客户的定制订单。三家代工分配本身已经确定(SK→TSMC、Samsung→自家 Foundry、Micron→TSMC,自 2025-09-23 起公开),真正悬而未决的是"Micron HBM4E + TSMC 这条新链能不能跑出 SK 那种良率与定价"。这是 SCA 重定义在 Micron 个体层面的第三道结构性变量,加上 Ch 2 的"Mehrotra 首签 SCA 客户身份"、Ch 3 的"Kimi K3 token economics 兑现 + 西方 frontier lab 跟随速度",三道 watch item 共同决定 Mehrotra 这套"穿越周期"叙事在 Micron 自己身上能落到多少。
Ch 5 — 辩证合题
三道考题分别完成了。把它们叠在一起看,给出的不是"Micron 是不是成长股"这个答案 — 给出的是判断的几何框架。
产业层面:Mehrotra 的 SCA 在 HBM TAM 这个层级站得住
三道考题在产业层面的合力是结构性 net-positive:
- ASIC 浪潮(Ch 2)— Google TPU v7、AWS Trainium 3、Microsoft Maia 200、Meta MTIA、AMD MI455X 五条 ramp 在 2026 同时上量,每颗 ASIC 的 HBM 容量与 NVIDIA 当前在售旗舰同一量级,加总后约等于或略小于 NVIDIA Blackwell 的 HBM 消耗 — ASIC 不是 NVIDIA 的替代品,是 NVIDIA capex 之上额外加的层。HBM TAM 撑大。
- 算法演化(Ch 3)— MoE 激活比 2024 baseline 25-30% → 2026-04 frontier 3-6%,bandwidth 略下、capacity 强力上,NVIDIA Rubin 288GB / Rubin Ultra 1TB 路线就是对 capacity-up 的直接响应。test-time compute / reasoning model 把 inference TAM 从 2025 年的 1/2 推到 2026 年的 2/3,与 capacity-up 共同推动 HBM 总消耗。算法层面对 HBM 整体瓶颈地位仍 net-positive。
- 拓扑演进(Ch 4)— NVL72 → NVL144 → NVL576 单机架 HBM 浓度持续上推;CPO 在 2026-2027 不解构 HBM 需求,CXL pooling 在 inference hot path 上未落地,UALink 让 hyperscaler 多一个开放选项但机架内 HBM 浓度不变。拓扑层面对 HBM TAM 仍 net-positive。
三道考题加起来:HBM TAM 在 2026-2028 结构性扩张,SCA 五年期 "穿越周期" 在产业层面有真实的几何前提。这就是为什么过去一周多家卖方把 Micron 目标价集群推到 $800-$1,100(Citi $840、HSBC $1,100、Melius $1,100、CFRA $900、Mizuho $800、BofA 亦上调但具体目标价未独立确认)— 他们看的是产业层面的几何,而 Mehrotra 的 SCA 重定义在这个几何里是合理的。
Micron 个体层面:三道结构性折损同时压下来
但产业层面成立不等于 Micron 个体层面成立。三道考题各添一道结构性折损:
- ASIC 时代客户端(Ch 2)— MU 在 HBM4 旗舰 socket 的命中率结构性偏低:NVDA VR200(sell-side 判断接近零)、AMD MI455X(被 Samsung 通过 3/18 MoU 拿下)、Google TPU v7(未列名)、AWS Trainium 3(未列名)、Microsoft Maia 200(未列名)、Meta MTIA(未列名)— 全部缺位。Micron 在 HBM4 时代的收入结构上集中在中阶 socket(Rubin CPX)+ co-source 残余 + sovereign AI 优选。稳定但有天花板。
- 算法尾部风险(Ch 3)— Kimi Linear standalone + Kimi K3(预计 2026-05 / 6 上线)把 hybrid linear attention 装进万亿参数旗舰,KV cache 减 75%、推理速度 2.9-6×。如果西方 frontier lab(OpenAI、Anthropic、Google DeepMind、Meta)在 2026-2027 跟随 hybrid SSM,HBM bandwidth 需求会出现历史性的台阶式下跌 — 这是 Mehrotra 五年期 SCA 最大的尾部风险。风险已从"理论可能"升级到"中国旗舰先跑,西方要么跟要么落后"。
- 供给侧价值链(Ch 4)— HBM4E base die 工艺从 DRAM 厂自家 14-10nm 跃迁到 4nm logic;三家路径都已公开:SK Hynix 从 HBM4 起就走 TSMC,Samsung HBM4/HBM4E 全程留自家 Foundry,Micron 两步走 — HBM4 自家 in-house、HBM4E 转 TSMC(Mehrotra 2025-09-23 Q4 FY25 电话会亲口披露)。Micron 自家承认 in-house 在 HBM4E logic-on-DRAM 这条线上撑不住,TSMC 直接进入 Micron HBM4E 价值链占走 base die rent;同时 Micron 没有自家先进逻辑 foundry 兜底,在 base die 这一段比 Samsung 更被动。Micron 在 HBM 桌上的相对位置在 2027 后从"三家 DRAM 厂之一"变成"三家 DRAM 厂之一 + 价值链多了 TSMC 这一段"。
三道折损叠在一起:Micron 既要在客户端争 socket(头部旗舰几乎缺位),又要在算法端承受 HBM bandwidth 长期被压低的尾部风险,还要在供给端面对 TSMC 进入价值链 — 三头同时受压。
不下结论 — 三种可能性都开着
第一篇我们建立了技术地基,第二篇压力测试了三道考题。但 Mehrotra 这套"穿越周期"叙事在 Micron 自己身上最终能落到多少,需要未来 12 个月四件事各自落地后才能给:
| Watch Item | 时间窗 | 判断价值 |
|---|---|---|
| Q3 FY26 customer prepayments 科目 | late June 2026 财报(日期 TBC by Micron IR) | 验证 SCA 是否已转成已发生的资产负债表事件 |
| Mehrotra 首签 5 年期 SCA 对手方身份 | 2026 Q3-Q4 披露 | 决定 MU 在新 HBM TAM 里相对位置 |
| Kimi K3 实际上线 + token economics 兑现 | 时间窗口未定(2026 H1 后段);Manifold 5/27 实时 ~8% 5 月底前,K3 未在 5 月发,市场预期已大幅下修 | hybrid SSM 在 frontier scale 是否兑现 |
| 西方 frontier lab(OpenAI / Anthropic / Google DeepMind / Meta)架构卡 + Micron HBM4E + TSMC base die ramp 节奏与良率 | 2026 H2 — 2027 H1 | HBM bandwidth 是否被算法压低 + Micron HBM4E 在 TSMC 这条新链能否跑出 SK Hynix 那种良率与定价 |
三种合理的可能性都开着:
- 可能性一(MU 个体层面真站住):Mehrotra 首签 SCA 客户是 Broadcom-OpenAI Titan 或类似 ASIC open socket;Q3 customer prepayments 显著上升;Micron HBM4E 在 TSMC 的 base die ramp 顺利、良率与 SK Hynix 同档,客制 base die 拿到至少一家超大规模客户深度合作;Kimi K3 在西方不被广泛跟随。SCA 在 MU 个体层面也是成长股。
- 可能性二(打中位):SCA 客户是 NVIDIA 自己;Micron 在 HBM4 时代旗舰 socket 没翻身,但 NVDA HBM 增量自己足够大;算法尾部风险慢慢释放但 12 个月内不构成实质冲击。SCA 在 MU 个体层面打中位 — 产业撑住,Micron 跟着分一部分。
- 可能性三(打折):Kimi K3 + 西方跟随双兑现,HBM bandwidth 需求台阶式下跌;Micron HBM4E base die 转 TSMC(已公开)被市场充分定价进 SCA 折扣;旗舰 socket 持续缺位。SCA 重定义在产业层面仍站住,但 Micron 个体在新 TAM 里的份额结构性收缩。
我们的真实判断是:在 2026-05-27 这个时点,可能性二是 base case,可能性一和三是有质量的尾部。这不是一个"现在就要决定买不买 Micron"的判断,这是一个"未来 12 个月这四件事每件落地都会触发判断更新"的框架。
第三篇 — 如果共识叙事成立,应该买什么
但 — 如果产业层面的几何真的撑住(可能性二、可能性一,概率合计大),哪怕 Micron 个体打折,HBM 上下游产业链的整体投资机会仍然真实存在。Theta 已有的产业链研究覆盖了从 EDA、光刻设备、HBM 主供应商、CoWoS 封装、CPO、网络芯片到 hyperscaler 终端客户 — 这条链可以利用我们既有的研究,在共识叙事真的成立的假设下,做一个上下游标的穿透。这就是系列第三篇要展开的内容。
Bibliography (来源)
一手公司 / IR / 财报材料
- AMD CES 2026 keynote(MI430X / MI440X / MI455X + Helios 机架),2026-01-07 → amd.com
- AMD press release, "Samsung and AMD Expand Strategic Collaboration",2026-03-18 → amd.com/en/newsroom/press-releases/2026-3-18-samsung-and-amd-expand-strategic-collaboratio.html
- AMD Q1 FY2026 财报与电话会(数据中心 $5.775B,+57% YoY),2026-05
- AWS Q1 FY2026 财报与 capex 披露,2026-04
- AWS re:Invent 2024 keynote(Trainium 2 / Project Rainier 500K chips for Anthropic)
- Broadcom Investor Day / Q1 FY2026 财报(custom ASIC portfolio:Google TPU、Meta MTIA、OpenAI Titan、ByteDance、Fujitsu、Anthropic),2026-03
- Google Cloud Next 2025 — TPU v7 Ironwood 公布(192GB HBM3E、9,216-chip pod、4,614 FP8 TFLOPS) → blog.google
- Meta Q1 FY2026 财报(2026 capex 调升至 $125-145B)
- Microsoft Ignite 2025 + Maia 200 公布(216GB HBM3E、3nm TSMC、140B+ 晶体管、10 PFLOPS FP4、Marvell 协同设计),2025-11
- Marvell Q1 FY2026 财报与电话会(确认 Maia 200 已进入 CY2026 量产),2026-04
- Sanjay Mehrotra, Micron Q2 FY2026 earnings call prepared remarks,2026-03-18 → investors.micron.com
- Sanjay Mehrotra, Micron Q4 FY2025 earnings call prepared remarks,2025-09-23 — 明确披露:HBM4 base die 由 Micron 自家 advanced CMOS 内部生产;HBM4E base die 转 TSMC 代工,标准与定制版本均交 TSMC,2027 量产 → investors.micron.com static-files/5ea95475-639b-4cfc-91fd-b9b4a2bb5e63
- TrendForce, "Memory Giants Diverge on HBM Base Die: Micron Reportedly Delays Foundry Shift, Risks Losing Edge",2025-08-29 → trendforce.com
- Tom's Hardware, "Micron Hands TSMC the Keys to HBM4E",2025-09
- DigiTimes, "TSMC sweeping HBM4E base-die production across industry",2025-12-01
- Sahm Capital news quote — Mehrotra Q4 FY25 直接引述 "we are partnering with TSMC for manufacturing the HBM4E base logic die for both standard and customized products",2025-09-23
- NVIDIA GTC 2026 keynote(Vera Rubin VR200 + Rubin Ultra 路线图) → nvidianews.nvidia.com
- NVIDIA FY2026 Q4 earnings(data center run-rate)
- NVIDIA H100 / B200 / Rubin product spec sheets → nvidia.com
二手 / 行业研究
- aibase news, "Moonshot Launches Kimi Linear Architecture: KV Cache Reduced by 75%, Inference Speed Increased by 6 Times",2026 早期
- aibase news, "Moonshot Introduces a New Hybrid Linear Attention Architecture Kimi Linear",2026
- Latent Space, "Moonshot Kimi K2.6: the world's leading Open Model refreshes to catch up to Opus 4.6 (ahead of DeepSeek v4?)",2026-04
- TokenMix Blog, "Kimi K3 Preview: 4T Params, 1M Context, May 2026 Release Odds",2026
- Manifold prediction market — "When will Moonshot release Kimi K3?" — live 实时读数 2026-05-27 显示 "Before June 2026" ~8%(TokenMix 早期引用的 74% 已 superseded;K3 未在 5 月发,市场预期回落)→ manifold.markets/Bayesian/when-will-moonshot-release-kimi-k3
- Bloomberg, "Intel and Qualcomm Vie to Acquire Tenstorrent",2026-05-19
- Castellano(Substack),"Micron Is Locked Out of HBM4 in NVIDIA Vera Rubin Systems",2026-05 — paywalled
- Data Center Dynamics, "Nvidia's Rubin Ultra NVL576 rack expected to be 600 kW",2025 → datacenterdynamics.com
- HPCwire, "UALink Consortium Releases the Ultra Accelerator Link 200G 1.0 Specification",2025-04-08
- Morgan Stanley AI infrastructure / accelerator market estimates 2026 + inference share forecast
- Mizuho custom ASIC accelerator TAM estimate(2025 ~$40B → 2027 $130B+),via AVGO sell-side coverage
- Mizuho OpenAI Titan program size estimate($150-200B / 5 年)
- The Next Platform, "AMD Says 'Helios' Racks And MI400 Series GPUs On Track For 2H 2026",2026-02-23
- SemiAnalysis newsletter, "Vera Rubin – Extreme Co-Design",2025-11 — paywalled
- SemiAnalysis newsletter, TPU v7 Ironwood analysis,2025-12 — paywalled
- SemiAnalysis newsletter, "AWS Trainium 3 Deep Dive",2025-10 — paywalled
- SemiAnalysis newsletter, "NVIDIA GTC 2025: Built For Reasoning, Vera Rubin, Kyber, CPO, Dynamo Inference"
- ServeTheHome, "Broadcom Tomahawk 6 - Davisson 102.4T Switch with Co-Packaged Optics" — 注:Davisson(CPO 集成)2025-10-08 公布并向早期客户 sampling,2026 是 qualification 年;同系列标准款 Tomahawk 6 2026-03 进入 volume production
- Broadcom press release, Tomahawk 6 Davisson(BCM78919),2025-10-08(sampling 公告)
- NVIDIA, Quantum-X 与 Spectrum-X 800G CPO 交换机平台 GTC 2025 公告,2025-03 → nvidia.com
- Marvell, Lightwave Fabric 光互连平台与 1.6 Tbps Linear Pluggable Optics 路线图,2025 → marvell.com
- SK Hynix + TSMC 战略合作公告 — HBM4 / HBM4E base die 由 TSMC 代工,2024-04(双方公开新闻稿)→ skhynix.com / tsmc.com
- 行业分析 — HBM4E base die logic-on-DRAM 工艺迁移到 TSMC N5/N3(SemiAnalysis、TechInsights、TrendForce 综合论述,2025-2026)
- CXL Consortium, "Compute Express Link 3.1 Specification",2023-11 公布 → computeexpresslink.org
- Tom's Hardware, "AMD touts Instinct MI430X, MI440X, and MI455X AI accelerators",2026-01
- Tom's Hardware, "Nvidia launches Vera Rubin NVL72 AI supercomputer at CES",2026-01
- Tom's Hardware, NVIDIA roadmap article — Rubin Ultra NVL576 + Feynman timeline
- The Information, "Anthropic Signs Multi-Year, $200 Billion-Plus TPU Commitment with Google",2026-05-05 — paywalled
- TrendForce — Samsung + SK Hynix HBM3E 20% 价格上调与 2026 订单分配,2025-12-24
学术 / 论文
- Albert Gu, Tri Dao, "Mamba: Linear-Time Sequence Modeling with Selective State Spaces",arXiv:2312.00752,2023-12(COLM 2024 best paper)
- Tri Dao, Albert Gu, "Transformers are SSMs: Generalized Models and Efficient Algorithms Through Structured State Space Duality"(Mamba-2),ICML 2024,arXiv:2405.21060
- DeepSeek-AI, "DeepSeek-V2"(MLA paper),arXiv:2405.04434,2024-05
- DeepSeek-AI, "DeepSeek-V3 Technical Report",arXiv:2412.19437,2024-12
- DeepSeek-AI, "DeepSeek-V3.2: Pushing the Frontier of Open Large Language Models"(DSA),arXiv:2512.02556,2025-12
- DeepSeek-AI, "DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning",arXiv:2501.12948,2025-01
- AI21 Labs (Lieber et al.), "Jamba: A Hybrid Transformer-Mamba Language Model",arXiv:2403.19887,2024-03
- MiniMax-AI, "MiniMax-01: Scaling Foundation Models with Lightning Attention",arXiv:2501.08313,2025-01
- IBM Research, "Granite 4.0: Hyper-efficient, High Performance Hybrid Models for Enterprise",ibm.com,2025-10
- Moonshot AI, "Kimi K2 Technical Report",moonshotai.github.io,2025-07
- Moonshot AI, "Kimi K2.6" 模型发布 / NVIDIA NIM 上架,2026-04-20 → build.nvidia.com/moonshotai/kimi-k2.6
- Moonshot AI, "Kimi Linear: Hybrid Linear Attention Architecture"(standalone 模型 + 技术博客,KV cache -75%、1M-context 推理速度 2.9-6×),2026 早期 → moonshotai.github.io
- Moonshot AI, "Kimi K3 Preview"(3-4T 参数 + Kimi Linear 旗舰部署;原 TokenMix blog 引用 Manifold 74% 5 月底前发布概率已 superseded — 5/27 实时 ~8%,K3 未在 5 月发)
- DeepSeek-AI, "DeepSeek V4"(1T 总参数 / ~32B 激活,V4-Pro 变种 1.6T / 49B;1M 上下文;全开源 MIT),2026-04-22
- Meta AI, "The Llama 4 Herd"(Maverick / Behemoth / Scout),ai.meta.com,2025-04
- Mistral AI, "Codestral Mamba",mistral.ai,2024-07
- Mistral AI, "Mixtral of Experts",arXiv:2401.04088,2024;Mixtral 8x22B 公布,2024-04
- Mistral AI, "Mistral Large 3"(675B 总参数 / 41B 激活,sparse MoE,model id mistral-large-2512),docs.mistral.ai,2025-12
- Mistral AI, "Mistral Medium 3.5"(128B dense),2026-04-29
- Alibaba Qwen, "Qwen3 Technical Report",qwenlm.github.io,2025-04
- Alibaba Qwen, "Qwen3.5-397B-A17B"(397B / 17B MoE),Hugging Face,2026-04
- Alibaba Qwen, "Qwen3.6-35B-A3B"(35B / 3B MoE),qwen.ai blog + Hugging Face,2026-04
- ZAI, "GLM-5.1"(754B / 40B sparse MoE),2026-04-07
- Google DeepMind, "Gemma 4 family"(包括 26B MoE:26B 总参数 / 3.8B 激活、8/128 expert routing),2026-04-02
- xAI, "Grok 4 / 4.20"(~3T MoE / ~500B 激活),2026-04
- Apple, "Apple Intelligence Foundation Language Models: Tech Report 2025",arXiv:2507.13575,2025-07
- Microsoft Research, "Phi-4 Technical Report",arXiv:2412.08905,2024-12
- Microsoft Research, "Phi-4-mini Technical Report",arXiv:2503.01743,2025-02
- Google DeepMind, "Gemma 3 Technical Report",2025-03
- Meta AI, "Introducing Llama 3.2",ai.meta.com,2024-09
- Mistral AI, "Ministral 3B / 8B announcement",2024-10
- Peng et al., "RWKV-7 Goose: Expressive Dynamic State Evolution",2025
- Snell et al., "Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters",Google DeepMind,arXiv:2408.03314,NeurIPS 2024
- OpenAI, "Learning to Reason with LLMs"(o1 system card),openai.com,2024-09
- Anthropic, Claude 3.7 Sonnet + extended thinking 文档,2025
- "The End of Transformers? On Challenging Attention and the Rise of Sub-Quadratic Architectures",arXiv:2510.05364,2025-10(综述)
- LMSys / Chatbot Arena leaderboard,持续更新 → lmarena.ai
第三方 / 公司公开材料
- Cerebras Systems WSE-3 product brief(46,225 mm² 单晶圆芯片、850K core、44GB on-die SRAM) → cerebras.net
- Cerebras + G42 战略合作公开公告(沙特 PIF / UAE G42 是主要 anchor customer)
- Etched.ai Sohu announcement, "Sohu: a Transformer-Specific ASIC",2024-06 → etched.com
- Groq Tensor Streaming Processor architecture blog + ISCA papers(230MB on-chip SRAM,deterministic dataflow)→ groq.com
- HotChips 36(2024)Cerebras WSE-3 wafer-scale architecture session
- Tenstorrent — Wormhole / Blackhole architecture brief(RISC-V tile mesh + GDDR6) → tenstorrent.com
Theta 内部 synthesis(需要继续向外溯源)
- Theta 内部 Google thesis line 122-125 — TPU 关键供应商映射(SK Hynix HBM3E for TPU)
- Theta 内部 Micron thesis line 73 — Phase C 评审修正:"AMD MI455X HBM4 supplier is SAMSUNG, not Micron"
- Theta 内部 Micron thesis line 82 — MU 在 HBM4 时代收入集中于 Rubin CPX mid-tier socket
- Theta 内部 Micron thesis line 417 — Google TurboQuant 与 KV cache 压缩对 HBM 需求的潜在抑制
- Theta 内部 Micron thesis line 461 — sovereign AI(G42 / KSA / EU)开放 RFP optionality
- 卖方共识量级 — 多家卖方(SemiAnalysis、Mizuho、Counterpoint、Morgan Stanley、Bernstein)的复合估算,具体数字因模型而异 ±20-40%
Errata note(2026-05-28 补充)
Article 2 把 HBM 写成 "AI 算力体系的物理咽喉",这个表述仍然成立,但需要补一句:TSMC CoWoS-L 4x reticle 高级封装是与 HBM 并列、甚至更紧的 binding constraint — Vera Rubin NVL72 单 GPU 需要 12 颗 HBM4 stack 装在 CoWoS-L 4x 反应物上,TSMC 是唯一供应商,产能从 2025 年末 75K wpm 目标推到 2026 年末 130-150K wpm。换言之,2027 年的真正瓶颈是双咽喉:HBM(SK / Samsung / MU 三家供给侧)+ CoWoS-L(TSMC 独家供给侧)。
Article 2 三道考题里的 ASIC 考题(Ch 2)结论不变,但读者应当注意:HBM 撑大 TAM 这件事的几何前提里,还有 CoWoS-L 这个 TSMC 独家瓶颈在按比例放大 TSMC 的相对地位。这条 reframe 会在系列第三篇(HBM 上下游产业链穿透)Ch 3 里展开;TSM 在第三篇里的权重会因此抬高一档。
全文完成(开篇 + Ch 2-5,citation 按 2026-05-27 锁定标准:正文 clean、Bibliography 在末尾)+ 2026-05-28 errata 补充 CoWoS-L 双咽喉 reframe。下一篇:系列第三篇 — 如果共识叙事成立,HBM 上下游产业链应该买什么(标的穿透)。Codex GPT-5.5 xhigh 后台 source-review 完成后写入 .claude/handoff/mu-article2-source-review-codex.md,数据校对不在正文加 marker。