国内外大模型的实现差异：一场由"约束"决定的架构分野

零、先花 3 分钟读懂关键术语

后文会大量出现这些词。这里用一句话 + 一个类比讲清楚，全文不再重复解释。已经熟悉的读者可以直接跳过。

0.1 规模类：模型有多”大”

术语	一句话解释	类比
参数（Parameter）	模型内部的可调节数值，是训练”学出来的知识”的载体。1B = 10 亿个参数	大脑里神经元的连接强度
总参数（总参）	模型全部参数的数量。决定”知识容量上限”，但不直接等于每次计算量	图书馆的藏书总量
激活参数	处理每个 token 时真正参与计算的那部分参数。决定单次推理的成本与速度	你这次来图书馆实际取下来读的那几本书
激活率	激活参数 ÷ 总参数。国内旗舰普遍压在 3%–5%	读 1 本书要动用 100 万册馆藏里的多少本
稠密模型（Dense）	每个 token 都要用到全部参数，激活率 = 100%	每次答题都要把整本书从头翻一遍
稀疏模型（Sparse）	每个 token 只用一小部分参数（MoE 是典型），激活率远低于 100%	查哪个科目，就只翻那个科目的书架
B / T	参数量级单位。1B = 10 亿（Billion），1T = 1 万亿（Trillion）。如 “2.4T / 95B” = 总参 2.4 万亿、激活 950 亿	—

0.2 输入类：模型能”看多长”

术语	一句话解释	类比
token	模型处理文本的最小单位。中文大致 1–2 字 ≈ 1 个 token，英文大致 1 个单词 ≈ 1–2 个 token。计费也按 token 算	文章的”字数”，但不完全等于字数
上下文（Context / 上下文窗口）	模型单次能”记住并同时处理”的 token 总长度，包含你输入的 + 它已生成的。1M ≈ 100 万 token ≈ 约 70 万汉字	办公桌的桌面大小——桌上放不下，就得先收走一些
上下文溢出	超出窗口后，最早的内容会被挤出，模型”忘记”开头说了什么	桌面堆满后，最早放的文件被推到地上
长上下文	一般指 128K（约 12.8 万 token）以上；2026 年前沿模型普遍到 1M	桌面从 A4 纸扩到整张会议桌

0.3 架构类：模型内部怎么搭

术语	一句话解释	类比
Transformer	2017 年至今几乎所有大模型的底层骨架，核心是”注意力机制”。详见本系列第一篇	现代汽车的底盘
注意力机制（Attention）	让序列中每个位置都去”看”其他所有位置并按相关性汇总信息。是模型理解上下文的核心	开会时每个人都在听全场发言，并挑重点记笔记
MHA / GQA / MLA	注意力的三种实现。MHA：每个头各存一份 K/V（最贵）；GQA：几个头共用一份 K/V（省约 75%）；MLA：把 K/V 压成低维向量存起来（省约 93%）	记笔记的三种方式：每人一本 → 小组共用一本 → 只记压缩摘要
稀疏 / 线性注意力	只算”重要位置”的注意力，或把计算复杂度从 O(n²) 降到 O(n)，换取长文本下的速度	不逐字精读，只精读关键段落
KV Cache	生成过程中，把前面所有 token 算过的中间结果（Key/Value）缓存起来复用，避免重复计算。它是长上下文的显存大头	开会时记的笔记——记得越多，桌子越占地方
MoE（混合专家）	把模型拆成很多个”专家”子网络，每个 token 只交给少数几个相关专家处理。用总参数换知识容量，用低激活换成本	医院分科室挂号：不用每次惊动全院医生，只挂对应的两三个科
专家（Expert）	MoE 里的子网络。“512 个专家选 10 个” = 共 512 个子网络，每次挑 10 个干活	医院的科室数量
路由（Router）	决定”这个 token 交给哪几个专家”的小网络	导诊台
共享专家	无论如何都会被激活的专家，负责通用知识	收费处
专家塌陷	所有 token 都挤向少数几个专家，其余闲置——MoE 的核心工程难题	所有人都挂同一个专家号，其他科室空转
位置编码（RoPE 等）	注意力本身不看顺序，需要额外注入”你是第几个”的位置信息	给书页标页码
多模态	模型能处理文本之外的输入（图像、音频、视频）	不只读书，还能看图、听声、看片
原生多模态 vs 外挂式	原生：从预训练第一步就把所有模态塞进同一个主干联合训练；外挂：先训好文本模型，再挂一个视觉编码器	天生会多国语言 vs 成年后配个翻译
嵌入 / 词表	词表 = 模型认识的”字库”（Qwen3.8 为 248,320）；嵌入 = 把每个字变成可计算的数字向量	字典 + 字典里每个字的编号

0.4 训练类：模型怎么”学”

术语	一句话解释	类比
预训练（Pre-training）	在海量无标注数据上从头学语言与世界知识。最烧钱的阶段，一次动辄数百万到上亿美元	通读百科全书打基础
后训练（Post-training）	预训练之后的所有加工：SFT（有监督微调）、RL（强化学习）、对齐等。2026 年的新战场	基础打完后做专项集训
微调（Fine-tune）	在已有模型上用特定数据继续训练，让它适配某个领域	通用医生去进修专科
蒸馏（Distillation）	用大模型教小模型，把能力”压缩”进更小的模型	老师带学生，学生学老师的解题思路
RL / RLHF	强化学习（人类反馈强化学习）。让模型在”试错—打分”中提升，是推理能力和 Agent 能力的主要来源	做题 → 对答案 → 调整思路
MTP（多 token 预测）	训练时一次预测多个 token，推理时可一次吐出多个词，提速 2–3 倍	不是一秒写一个字，而是一秒写一组词
对齐（Alignment）	让模型按人类期望的方式回答：安全、有用、守规范	教规矩，不只教知识

0.5 推理与工程类：跑起来有多贵

术语	一句话解释	类比
推理（Inference）	模型训练完成后，实际给用户生成回答的过程。对任何真实服务来说，推理成本远高于训练成本	驾校学车（训练）是一次性的，上路开车（推理）是每天的油钱
Prefill / Decode	Prefill（预填充）：读入你的长输入并算出初始状态（算力瓶颈）；Decode（解码）：一个词一个词往外吐（显存带宽瓶颈）。两者硬件需求不同，2026 年主流做法是分开部署	先读完题目（费脑子），再逐字写答案（费手速）
TTFT	Time To First Token，首 token 延迟——你按下回车到看到第一个字的等待时间	服务员听完点单到上第一道菜的时间
吞吐（Throughput）	单位时间内能处理多少 token。决定并发能力和成本	餐厅一小时能翻多少桌
量化（Quantization）	把参数从高精度（FP16/BF16）压成低精度（FP8/INT4/FP4），显存减半、吞吐翻倍，精度损失极小。2026 年 FP8 已是生产标准	照片从 RAW 转 JPEG：体积小很多，肉眼几乎看不出差别
投机解码	用小模型先”猜”几个词，大模型一次性批量验证。提速 2–3 倍且数学上无损	让实习生先拟草稿，老板一次性批阅
张量并行 / 8 卡部署	模型太大一张显卡装不下，把一层拆开塞进多张卡并行算。“8 卡张量并行” = 需要 8 张 GPU 才能跑起来	一张桌子放不下，拼 8 张桌子一起用
算子 / kernel	GPU 上执行的最小计算单元（如注意力算子）。算子写得好不好，直接决定国产芯片能不能跑得动	厨房里的单道工序（切、炒、装盘）
PagedAttention / vLLM	把 KV Cache 像操作系统管理内存那样分页，解决显存碎片，大幅提升并发	从”整块连续摆放”改成”货架格子式摆放”
MaaS	Model as a Service，把模型当云服务卖	不卖车，卖打车服务
NPU / TPU / GPU	AI 加速芯片的三种形态。GPU：英伟达主导的通用加速卡；TPU：谷歌自研；NPU：国产 AI 芯片（昇腾等）常用叫法	三种不同品牌的发动机
CUDA	英伟达的 GPU 编程生态，全球约 90% AI 开发者绑定其上。这是最大的软件壁垒	某种发动机专用的、别人没法通用的维修体系

0.6 开放与合规类

术语	一句话解释	类比
开放权重（Open Weights）	厂商把训练好的模型参数文件公开下载。你可以本地部署、微调、内网运行。注意：开放的只是”权重”，不是训练代码和数据	给你成品菜谱的详细配比，但不给你后厨
开源（Open Source）	严格意义上还要公开训练代码、数据、流程。市面上叫”开源”的模型，绝大多数其实是”开放权重”	连后厨都开放参观
闭源	只提供 API，权重不公开，架构细节不披露	只让你点菜吃，不让你进厨房
MIT / Apache 2.0	两种最宽松的开源许可。MIT：几乎无限制；Apache 2.0：额外明确专利授权。两者都允许商用	两种”随便用，别告我”的授权书
自定义许可	厂商自拟条款，常带营收门槛、商用限制、分成要求	附条件的授权，用之前得先读细则
衍生模型	别人在某个开放权重模型基础上微调/改造出来的新模型。数量越多，说明这个模型的生态越繁荣	菜谱被多少人拿去改良并开出了分店

0.7 其他高频词

术语	一句话解释
Agent（智能体）	不只回答问题，还能自主规划、调用工具、多步执行完成任务（如”帮我重构这个仓库并跑通测试”）。2026 年模型竞争的主战场
RAG（检索增强生成）	先从你的文档库里检索相关内容，再让模型基于这些内容回答。企业落地的标配
基准 / Benchmark	衡量模型能力的标准化测试集。如 Terminal Bench（终端操作）、SWE-bench（写代码）、LiveBench（综合能力）。⚠️ 多为厂商自报，且存在”刷榜”风险
CoT（思维链）	让模型先把推理过程写出来再给答案，显著提升复杂问题的正确率
推理模型 / 思考模式	内化了 CoT 的模型，回答前会先”想”一段。reasoning_effort 参数可调节想多深
ViT / 视觉塔	Vision Transformer，负责把图像切成小块（patch）并转成向量的编码器。“自训视觉塔” = 不借别人的现成编码器，自己从头训练
SLA	服务等级协议，厂商承诺的可用率、响应时间等保障。企业级采购的关键条款
卡时	一张加速卡工作一小时。“278.8 万 H800 卡时” ≈ 278.8 万张卡跑一小时（或等效组合）

---

一、先看结论：三句话与一张速览表

💡 本章出现的”开放权重""权重""架构稀疏""上下文”等术语，如不确定含义，请先回看 第零章术语速查。

如果只记三句话：

1. 国外头部走的是”能力上限优先”（闭源、重投入、架构细节不公开），国内头部走的是”单位算力产出优先”（开放权重、极致稀疏、工程优化密集）。这不是理念差异，是算力与市场约束倒逼出的两条路。
2. 差距在快速收窄：第三方测算显示，中美顶尖模型的基准得分差从 2026 年初的约 15% 收窄至 5 月的 9%、9 月的约 3%[citation:44]。在 LiveBench 上，DeepSeek V4.1 Flash 得 81.1，与 Anthropic 最高的 83.4 只差 2.3 分[citation:44]。
3. 真正的分野在”信息透明度”：美国头部模型的架构细节几乎不公开，中国头部模型连 7000 亿～1.65 万亿参数的权重都按 MIT 协议开放[citation:51]。这导致双方的”实现差异”有一半其实是可观测性差异——不是没差异，是美国那边没人知道。

速览表：2026 年 10 月主要模型的实现侧画像

📖 先看懂表头（详见 第零章）：

• 总参 / 激活：总参数量 / 每处理一个 token 实际参与计算的参数量。前者是”知识容量”，后者才是”每次的成本”。如 2.4T / 95B = 总参 2.4 万亿，但每次只动用 950 亿。
• 上下文：单次能同时处理的 token 总长度（你的输入 + 它已生成的）。1M ≈ 100 万 token ≈ 约 70 万汉字。
• 开放程度：权重能否下载。MIT / Apache 2.0 = 可自由商用；开放权重 = 能下载但条款可能有限制；闭源 API = 只能远程调用。

阵营	代表模型	总参 / 激活	上下文	关键实现特征	开放程度
🇺🇸 美国	GPT-6 Astra / Sol / Luna	未公开	1.05M	架构细节不公开，强在 Agent 与计算机操作	闭源 API
🇺🇸 美国	Claude Opus 5.5 / Fable 5.1	未公开	1M	架构细节不公开，长上下文与代码见长	闭源 API
🇺🇸 美国	Gemini 4 Argon / 3.8 Flash	未公开	1M	端到端原生多模态，TPU 自研栈	闭源 API
🇺🇸 美国	Grok 4.7	未公开	500K	低成本 Agent	闭源 API
🇺🇸 美国	Muse Spark Open（Meta）	未公开	1M	开放权重，但用自定义许可	受限开放[citation:1]
🇨🇳 中国	DeepSeek V4-Pro	1.6T / 49B	1M	CSA+HCA 混合注意力、mHC 超连接、Muon 优化器	MIT[citation:14]
🇨🇳 中国	DeepSeek V4.1 Flash	552B / 8B(输入)·16B(输出)	1M	非对称 Encoder-Decoder、原生视觉	开放权重[citation:18]
🇨🇳 中国	Qwen3.8-2.4T-A95B	2.4T / 95B	262K→1M	512 专家选 10+1 共享、混合注意力、MTP	Apache 2.0[citation:11]
🇨🇳 中国	Kimi K3	2.8T / 104B	1M	KDA 混合线性注意力、AttnRes、896 专家选 16	修改版 MIT[citation:25]
🇨🇳 中国	GLM-5.3	744B / 40B	1M	基座复用 5.2，纯后训练提升	开放权重[citation:30]
🇨🇳 中国	MiniMax M3	428B / 23B	1M	自研 MSA 稀疏注意力、原生图像视频	开放权重[citation:27]
🇨🇳 中国	混元 Hy3	295B / 21B	256K	快慢思考融合、Apache 2.0	Apache 2.0[citation:28]
🇨🇳 中国	文心 ERNIE 5.0	2.4T / <3% 激活	320K	原生全模态统一自回归	部分开源[citation:28]

---

二、根源：不是理念不同，是约束不同

理解所有实现差异，只需要理解一张”约束三角”：

graph TB
    A["① 算力约束<br/>高端训练芯片获取受限"] --> D["实现取向"]
    B["② 商业约束<br/>API 价格战 + 云厂商绑定"] --> D
    C["③ 市场约束<br/>开源换生态 + 私有化刚需"] --> D
    D --> E["国内：单位算力产出最大化<br/>→ 极致稀疏 + 开放权重 + 工程优化"]
    A2["① 算力充裕<br/>十万卡级集群可自由扩张"] --> D2["实现取向"]
    B2["② 商业闭环<br/>高毛利订阅 + API 溢价"] --> D2
    C2["③ 领先者位置<br/>保能力上限 + 安全管控"] --> D2
    D2 --> E2["国外：能力上限最大化<br/>→ 闭源 + 重预训练 + 全栈自研"]

2.1 算力约束是最硬的那条

第三方分析显示，美国占据全球高端训练算力约 69%，中国约 15%[citation:50]。美国拥有 5427 个数据中心，是第二名的 10 倍；2025 年美国私人部门 AI 投资达 2859 亿美元[citation:47]。

更要紧的是，2026 年出口管制从”卡芯片”升级为”锁算力”：无论中资实体设在泰国、新加坡还是阿联酋，只要最终控制权归属中方，租赁 Blackwell/Rubin、MI350X 等训练芯片的申请几将被”推定拒绝”[citation:44][citation:47]。《远程访问安全法案》进一步把远程访问纳入管制，众议院已于 2026 年 1 月以 369:22 通过[citation:44]。

这类约束的直接后果是什么？看一个真实案例：腾讯 2026 年 10 月与甲骨文签下 5 年、约 70 亿美元的海外算力租赁协议，涉及约 10 万枚高阶 AI 芯片[citation:44]——一家中国头部厂商需要用”海外租卡”来弥补国内算力缺口。腾讯总裁刘炽平坦承，资本开支低于预期的原因正是”先进 GPU 在中国的供应受阻”[citation:44]。

一句话：当算力是”定量配给”而非”按需取用”时，架构设计必然从”怎么做到最强”转向”怎么用最少的算力做到足够强”。国内所有激进的效率创新，源头都在这里。

2.2 商业约束同样关键

中国厂商面对的是全球最激烈的 API 价格战。结果就是：同样的智能水平，谁的单 token 成本低谁活。这直接激励了稀疏化、量化、KV Cache 压缩这一整套工程。

📖 三个词快速理解：

• 稀疏化：让模型每次只调用一小部分参数（MoE），而不是全部——直接降低计算量；
• 量化：把参数精度从 FP16 压到 FP8/INT4，显存减半、吞吐翻倍，精度几乎不掉；
• KV Cache 压缩：长对话时要缓存所有历史 token 的中间结果，非常吃显存，压缩它是长上下文降本的关键。

反观美国头部厂商，商业闭环建立在订阅与企业 API 溢价上（GPT-6 Astra 与 Claude Fable 5.1 均为 $10/$50 每百万 token），有足够毛利覆盖昂贵的预训练[citation:9][citation:13]。

---

三、差异一：开放策略——权重给不给

这是最直观、也是影响最深远的差异。

📖 先分清三个概念（这一步最容易混淆）：

• 开放权重：把训练好的模型参数文件公开下载，你可以自己部署、微调、内网运行。⚠️ 开放的只是”成品参数”，不含训练代码和数据——市面上被称作”开源”的模型，绝大多数其实是开放权重。
• 闭源：只提供 API，权重和架构细节都不公开。
• 商用权限：能不能下载，和能不能拿去赚钱，是两件事。MIT / Apache 2.0 允许自由商用；自定义许可常带营收门槛与分成要求。

3.1 数据说话

Hugging Face 2026 年夏季报告统计了当年 1–7 月发布的、参数量超 200 亿的所有开放权重模型[citation:51]：

许可类型	中国模型（178 个）	美国模型
Apache 2.0	59%	合计仅 29%
MIT	22%	↑ 同上
自定义条款	极少	41%
未声明许可	—	30%

通俗讲：从 Hub 上随便拉一个 20B+ 的中国模型，默认可以商用；拉一个同尺寸的美国模型，大概率要先读三页法律条款[citation:51]。

而且分母本身就有差距：中国发布了 178 个 20B 以上模型，美国数量远少于此[citation:51]。DeepSeek 与智谱甚至用 MIT 协议开放了 7000 亿到 1.65 万亿参数的模型——这个量级，西方没有任何前沿实验室愿意跟进[citation:51]。

3.2 生态结果：Qwen 成了”事实上的基础模型”

开源不是慈善，是获客。回报不在许可费，而在 API、云、硬件和平台[citation:48]。

结果非常具体：Hugging Face 上基于 Qwen 的衍生模型超过 15.14 万个，是 Meta 全部模型衍生品的 2.6 倍；若只比 Llama 系，则达到 4.7 倍。2026 年前 7 个月，Qwen 衍生模型每天新增约 180–210 个[citation:48]。

甚至出现了反向现象：一些美国开发的模型以中国模型为底座，或利用了中国实验室公开的研究成果（如 952B 的 Inkling）[citation:48]。

3.3 但”免费”正在长出边界

值得客观指出：最宽松的中国实验室近期也在收紧。Kimi K3 与 Qwen3.8-2.4T 已开始加入非商用限制与营收分成要求——Kimi 的条款禁止年收入超过一定门槛的公司未经授权对外提供服务；Qwen3.8-Max 的许可要求，运营 MaaS 或 AI 工作助手业务且连续 12 个月总营收超 5000 万美元的，商用前须获单独许可[citation:7][citation:51]。

这不是”中国不开源了”，而是开源公式走到了商业拐点：当模型从技术 PR 变成真实业务基础设施，许可就开始有棱角了[citation:51]。

3.4 优劣势

	开放权重（以国内为主）	闭源（以美国头部为主）
✅ 优势	可私有化部署、数据不出内网；可微调、可蒸馏；全球开发者共同优化；快速形成生态标准	能力上限可控；安全对齐与滥用管控统一；版本迭代无需考虑兼容性；商业闭环清晰
❌ 劣势	能力一经发布即被蒸馏追赶；滥用管控难；许可条款正在复杂化	供应商锁定；无法本地部署；架构不透明、研究无法复现

---

四、差异二：架构重心——“堆规模” vs “抠效率”

4.1 一个能一眼看懂的指标：激活率

现代大模型几乎全是 **MoE（Mixture of Experts，混合专家）**架构——把模型拆成很多个”专家”子网络，总参数量很大（知识多），但每个 token 只交给少数几个专家处理（算得快）。

于是”激活率 = 激活参数 ÷ 总参数”就成了衡量效率取向的最佳指标：

• 总参数（图书馆藏书总量）决定模型的知识容量；
• 激活参数（你这次实际取下来读的那几本书）决定每个 token 的计算成本；
• 激活率越低，说明”用同样的知识储备，干更少的活”——这是算力受限环境下最直接的优化方向。

举例：下表中 Qwen3.8 一行 2.4T / 95B，意思是模型共 2.4 万亿参数，但每处理一个 token 只动用 950 亿，激活率 4.0%。

模型	总参数	激活参数	激活率
DeepSeek V4.1 Flash（输入阶段）	552B	8B	1.4%
DeepSeek V4-Pro	1.6T	49B	3.1%
文心 ERNIE 5.0	2.4T	<3%	<3%
Kimi K3	2.8T	104B	3.7%
Qwen3.8-2.4T-A95B	2.4T	95B	4.0%
MiniMax M2	230B	~9.8B	4.3%
GLM-5.3	744B	40B	5.4%
MiniMax M3	428B	~23B	5.4%
混元 Hy3	295B	21B	7.1%

绝大多数国内旗舰的激活率压在 3%–5% 区间。 这是一个非常明确的工程取向信号：用总参数换知识容量，用极低激活换推理成本。

美国头部模型不公开这些数字，无法直接对比。但从已开源的美国模型看（Llama、Gemma、Mistral、Nemotron 系列多采用 GQA 与相对保守的稀疏策略），效率取向没有这么极端[citation:12]。

4.2 极致案例：DeepSeek V4.1 Flash 的”非对称”设计

这是 2026 年最有意思的架构创新之一，也最能体现约束如何塑造设计。

传统模型输入（prefill，读入你的长输入）和输出（decode，一个词一个词往外吐）走同一套参数。DeepSeek V4.1 Flash 把它拆成了两条不对称的通路[citation:18][citation:6]：

输入阶段（读你的长代码库）→ 走轻量通路，每 token 只激活 8B 参数
                              → 首 token 延迟（TTFT）大幅下降

输出阶段（写代码给你）    → 走重通路，每 token 激活 16B 参数
                              → 保证语法、格式、函数签名的精确性
                              
总参数 552B（256 个路由专家 + 共享主干）

为什么可以这么做？因为读和写的难度不一样：读 10 万 token 的代码库，瓶颈是内存带宽，精度要求低；写出能编译的代码，精度要求高。用两套不同的激活规模，正好匹配两种负载。

厂商口径称，prefill 激活仅 8B 时，TTFT（首 token 延迟，即你按下回车到看到第一个字的等待时间） 相比标准 70B 稠密模型下降 62%[citation:6]（厂商自报，未见独立复现）。

这类”非对称”思路在算力充裕的环境下未必会被优先想到——它本质上是一种被逼出来的聪明。

---

五、差异三：注意力机制的分野

这是实现层面技术含量最高、也最能体现路线差异的一块。

5.1 共同的起点与不同的终点

所有人的起点都一样：标准多头注意力（MHA）在长上下文下 KV Cache 爆炸。

📖 为什么 KV Cache 会爆炸？ 模型生成第 n 个词时，要”回顾”前面所有 n−1 个词。为了不重复计算，会把这些词的中间结果（Key / Value）缓存下来——这就是 KV Cache。对话越长，缓存越大，显存就越吃紧。在 100 万 token 的上下文下，标准做法的 KV Cache 甚至会超过模型本身的体积。所以 2026 年注意力机制的全部创新，本质上都在回答一个问题：怎么少存一点，还不掉点？

分野发生在”怎么压”：

路线	做法	压缩效果	谁在用
GQA	分组共享 KV 头（如 8 组 KV 头伺候 64 个 Q 头）	KV 缓存降约 75%	Llama 3、Qwen3、Gemma 3、Mistral、Nemotron[citation:12]
MLA	不共享头，把 KV 压成低秩潜向量（约 512 维），算时还原	KV 缓存降约 93%	DeepSeek V3 系、Kimi K2[citation:12]
混合线性注意力	多数层用线性注意力（O(n)），关键层保留 softmax	显存降约 75%，长文本解码提速数倍	Kimi KDA、Qwen3-Next、MiniMax[citation:4]
稀疏 + 压缩混合	沿序列维压缩 KV，再叠加稀疏选择	1M 上下文下 KV Cache 降至前代约 10%	DeepSeek V4（CSA + HCA）[citation:14][citation:2]
Lightning Attention	整体替换 softmax 核为线性近似	复杂度 O(n²)→O(n)	MiniMax 早期系列[citation:12]

📖 GQA / MLA 到底差在哪？ 用一个比喻就够：

• MHA（基线）：64 个头，每个头各存一份 K/V 笔记 → 最贵；
• GQA：分成 8 组，8 个头共用一份 K/V 笔记 → 省约 75%，改动小、转换成本低，是国外开源模型的主流；
• MLA：不共享头，而是把 K/V 压缩成一个低维摘要存起来，算的时候再还原 → 省约 93%，效果更好但必须重新预训练，没法在旧模型上改。

至于 O(n²) → O(n)：标准注意力下，文本长度翻倍，计算量变 4 倍（n²）；线性注意力下只变 2 倍（n）。这就是为什么超长上下文必须引入线性或稀疏层。

5.2 一个清晰的规律：国内更激进，且已进入”混搭”阶段

国外开源模型（Llama、Gemma、Mistral）的主流仍是 GQA——稳妥、转换成本低、几乎不掉点[citation:12]。Gemma 3 用”滑动窗口层 + 全局注意力层”交替，Mistral 3.1 Small 则用统一的窗口注意力[citation:12]。

国内厂商则在更激进的压缩上密集投入，且呈现”体系化混搭”：

DeepSeek 的演进路线（最完整的样本）[citation:2][citation:14]：

V2 (2024.05)   → MLA：把 KV 压成低秩潜向量
V3 (2024.12)   → MLA + 大规模 MoE，训练成本 557.6 万美元 / 278.8 万 H800 卡时
V3.2 (2025.12) → DSA 稀疏注意力
V4 (2026.04)   → CSA（压缩稀疏注意力）+ HCA（重度压缩注意力）混合
                  + mHC 流形约束超连接
                  + Muon 优化器

到了 V4，注意力已经不是一种算法，而是一套分层压缩体系：近处存完整 KV、远处压成摘要、重要 token 单独挑出来精算[citation:16]。

Kimi K3 的 KDA 混合线性注意力：官方口径称 KV 缓存需求缩减 75%，长文本解码速度提升 6.3 倍[citation:36]（厂商数据）。配合 AttnRes（注意力残差）解决深层模型的梯度传播问题[citation:25]。

GLM-5.3-Flash 则是首个采用”稀疏注意力 + 线性注意力”混合架构的开源前沿模型，官方称注意力计算量与 KV Cache 均降低约 3 倍[citation:30]。

5.3 一条重要的工程真相：不是”越稀疏越快”

这里有个反直觉的点，值得单独提示：稀疏带来的不规则访存，可能抵消掉省下的计算量[citation:16]。

选型的四条实用判据[citation:16]：

1. 显存紧还是算力紧？ 显存紧优先压 KV（GQA → MLA）；算力紧优先压计算（稀疏 → 线性）；都紧就上混合。
2. 生成型还是检索型？ 生成型对注意力精度容忍度高，可多堆线性层；检索型（长文档问答、RAG）对漏检敏感，要多留全局层。
3. 从头训还是改现成？ GQA 转换成本最低（组内 KV 头均值池化再续训即可）；MLA/DSA 要改结构和训练流程，不是”权重手术”能搞定的。
4. 上下文到什么量级？ 512K–1M 不上稀疏或线性层，成本压不住。

5.4 优劣势

	激进压缩路线（国内领先）	稳妥路线（GQA 为主，国外主流）
✅	长上下文成本极低；显存占用小；能在有限硬件上跑超长文本	精度损失最小；工程成熟、转换成本低；社区支持好
❌	需重新预训练或大幅微调；算子实现复杂、跨平台移植难；极端稀疏可能伤检索类任务	1M 上下文下 KV Cache 仍吃紧；难以支撑极限长文本

---

六、差异四：MoE 稀疏度的竞赛

6.1 专家数量与粒度的分化

MoE 的关键设计参数是”专家总数”和”每个 token 激活几个专家”。

📖 MoE 的三个核心名词：

• 专家（Expert）：模型里被拆出来的子网络，各自擅长不同类型的输入。像医院里的科室。
• 路由（Router）：负责判断”这个 token 该交给哪几个专家”的小网络。像医院的导诊台。
• 共享专家（Shared Expert）：无论如何都会被激活的专家，负责通用知识。像收费处。

所以”512 个专家选 10 + 1 共享”的意思是：共 512 个科室，每个 token 由导诊台挑 10 个科室接诊，另外还有 1 个科室必定参与。

2026 年的分化很明显[citation:12][citation:25][citation:11]：

模型	专家总数	每 token 激活	粒度
Llama 4 Maverick	128	—	中等
DeepSeek V3	256	—	细
MiniMax M2	256	top-8	细（sigmoid 路由）
DeepSeek V4.1 Flash	256	2 路由 + 2 共享	细[citation:6]
Qwen3.8	512	top-10 + 1 共享	极细[citation:11]
Kimi K3	896	top-16	极细[citation:25]
GLM-5.3	—	—	沿用 5.2 基座[citation:30]

趋势很清楚：专家越切越细，激活比例越来越低。Kimi K3 在 896 个专家中只激活 16 个（1.8%），配合 Stable LatentMoE 框架，官方称相比 K2 整体扩展效率提升约 2.5 倍[citation:25]。

6.2 三个关键实现细节

① 共享专家（Shared Expert）：除路由专家外，始终激活 1 个或多个共享专家处理通用知识。DeepSeekMoE 的经典设计，Qwen3.8 也采用”512 选 10 + 1 共享”[citation:11]。

② 无辅助损失的负载均衡：MoE 的最大工程难题是”专家塌陷”——所有 token 都挤向少数几个专家，其余专家闲置浪费（就像所有人都挂同一个专家号，其他科室空转）。DeepSeek 用引入偏置项的方式替代传统辅助损失，避免性能下降[citation:10]。Qwen3.8 则是”偏置只影响 top-10 选择，选中后权重仍用原始 sigmoid 分数，且辅助负载均衡损失系数很小”[citation:11]。

③ 路由方式：MiniMax M2 用 sigmoid 路由 + top-8[citation:31]，与常见的 softmax + top-k 略有差异。

6.3 其他结构细节的真实差异

一些容易被忽略但很具体的工程选择[citation:31][citation:11]：

细节	各家做法
嵌入与 LM Head 是否共享权重	MiniMax M2：不共享（词表 200,064）[citation:31]；早期 GPT/LLaMA 系多共享
位置编码	MiniMax M2 用 partial RoPE（head_dim 128 中只旋转 64 维）[citation:31]；主流多为全维度 RoPE
专家内部激活	MiniMax M2 用标准 SwiGLU，M3 改为 SwiGLU-OAI[citation:31]
词表规模	Qwen3.8 扩至 248,320[citation:11]；MiniMax M2 为 200,064[citation:31]
层数与宽度	Qwen3.8：92 层，隐藏维 8192[citation:11]；MiniMax M2：62 层（全 MoE 层，无 dense 层），宽度 3072[citation:31]

📖 上面几个细节在说什么？

• 嵌入 / LM Head 权重共享：模型”查字典”（输入时把字变成向量）和”输出选字”（最后把向量变回字）这两步，用的是不是同一张表。共享能省参数。
• 位置编码（RoPE）：注意力机制本身不看顺序（把句子打乱，它算出的两两关系集合不变），所以必须额外注入”你是第几个字”的信息。RoPE 的做法是把向量”旋转”一个与位置相关的角度。partial RoPE = 只旋转一半维度，另一半保留原始的内容表示。
• 词表（Vocabulary）：模型认识的”字库”大小。词表越大，越能高效表达生僻字和多语言，但参数也越多。
• 层数 / 隐藏维：层数 = 模型堆了多少层 Transformer（越深越抽象）；隐藏维 = 每层向量的宽度（越宽单次能承载的信息越多）。Qwen3.8 的 “92 层 × 8192 维” 属又深又宽的配置。
• SwiGLU：专家网络内部用的激活函数（负责引入非线性），M2→M3 换了改进版本。

这些细节没有优劣之分，但能看出一件事：国内厂商的架构文档披露粒度远高于美国头部。同样是前沿模型，Qwen3.8 的层数、专家数、激活策略都能查到，而 GPT-6 / Claude 的这些参数至今未公开。

---

七、差异五：多模态是”原生”还是”外挂”

7.1 两种实现路径

graph LR
    subgraph A["外挂拼接式"]
        I1[图像] --> E1[独立视觉编码器]
        T1[文本] --> L1[文本大模型]
        E1 --> P1[投影层/适配器]
        P1 --> L1
        L1 --> O1[输出]
    end
    subgraph B["原生统一式"]
        I2[图像] --> U["同一个 Transformer 主干<br/>从预训练第一步就联合训练"]
        T2[文本] --> U
        V2[视频] --> U
        A2[音频] --> U
        U --> O2[输出]
    end

• 外挂式：先训好文本大模型，再挂一个视觉编码器（图 → 独立编码器 → 适配器 → 文本模型）。工程简单，但两种模态只在后段才汇合，细节与时序信息有损耗。像成年后配了个翻译。
• 原生式：同一组 Transformer 参数直接处理任意模态组合，从预训练第一步就联合训练，信息损耗小，时序与细节保留更完整[citation:33]。像天生就会多国语言。

7.2 现状

• Google Gemini 是端到端原生多模态的典型代表，百万 token 上下文，长视频与大篇幅 PDF 解析见长[citation:33]。
• 国内头部已全面转向原生架构，不再局限于外挂视觉模块[citation:33]。具体例子：
  • MiniMax M3：官方称是 mixed-modality 训练”from the very first step”，而非先训文本再做多模态适配[citation:27]。
  • MiniMax 从第一代就在自训视觉塔——VL-01 用 3.03 亿参数 ViT 从零训练，用了 6.94 亿图文对[citation:27]。这解释了为什么文档理解、UI/截图理解、图表阅读一直是这个系列的强项。
  • DeepSeek V4.1 Flash：视觉输入通过 patch 投影直接进入 MLA v2 层，绕过独立的视觉-语言适配器[citation:6]。
  • Qwen3.8-Max：原生支持视觉，视觉理解贯穿规划、执行、验证全流程[citation:15]。

7.3 客观地说差距在哪

国内在视频生成、音频生成领域具备全球竞争力，中文场景与工程落地是强项[citation:33]。但在复杂物理场景推理、通用世界模型能力上，与海外顶尖模型仍存在差距[citation:33]。

需要注意：网络上有”美国全原生、中国全外挂”的说法，这与国内头部 2026 年的实际情况不符——头部厂商已完成原生化转型，差距更多体现在长时序因果推理与物理世界建模的深度，而非架构形态本身。

---

八、差异六：算力花在预训练还是后训练

这是 2026 年出现的新分野，而且是国内厂商先跑通的。

📖 预训练 vs 后训练：

• 预训练：在海量无标注数据上从头学语言与世界知识，最烧钱，一次动辄数百万到上亿美元。类比：通读百科全书打基础。
• 后训练：预训练之后的所有加工——SFT（有监督微调）、RL（强化学习，让模型在”试错—打分”中提升）、对齐等。类比：基础打完后做专项集训。
• 基座（Base Model）：预训练刚结束时的模型，后训练都是在它上面做的。

传统做法是”想变强就再训一轮预训练”。2026 年的新做法是：基座不动，把算力全砸在后训练上。

8.1 GLM-5.3：一个标志性案例

智谱 GLM-5.3 的做法极具代表性[citation:30][citation:26]：

基座：完全复用 GLM-5.2（744B 总参 / 40B 激活，网络结构、专家分配均未改动）
     ↓
全部提升来自后训练：强化学习 + 长程任务环境
     ↓
结果：内部 Code Bench 提升约 50%；
     Terminal Bench 3.0 从 4.6 → 28.3（6 倍）；
     DeepSWE 从 46.2 → 66.9；
     CyberGym 漏洞发现 84.5%，全球第一[citation:30]

没有投入任何新增预训练算力。 这意味着：

• 推理硬件门槛不变（仍需 8 卡张量并行）；
• Token 单耗与上一代持平，API 定价不涨价；
• 企业原有的推理工程、微调脚本、硬件配置几乎零成本迁移[citation:26]。

8.2 后训练规模化的三个关键实现

① 环境规模化：训练环境不再是”编程练习题”，而是模拟真实工程师的工作单元——有的任务相当于资深工程师数天工作量。例如一个 ML 基础设施任务中，模型拥有和工程师一样的环境（计算集群、存储、内部文档、代码库、实验结果），需自主诊断瓶颈、优化并交付可度量的加速[citation:30]。

② 环境自动合成流水线：能力提升后，瓶颈从模型转移到”环境”。Z.ai 构建了端到端合成流水线：研究智能体采集真实任务模式 → 裁判智能体验证可解性 → 通过”预言机检验、空操作检验、未解状态检验”产出可靠的二值奖励信号[citation:30]。

③ 训练框架与数值对齐：全部基于开源 slime 后训练框架（训练侧 Megatron + 推理侧 SGLang），系统级优化把长程编码 RL 任务端到端吞吐提升 2.3 倍以上；训练与推理路径的 logprob 差异做到 1e-7 量级，较此前降低 99.99%[citation:30]。

“训练与推理数值对齐”这个细节很值得注意——RL 训练时如果推理引擎和训练引擎算出的 logprob 不一致，会直接导致策略梯度偏差。把它压到 1e-7，是长程 RL 能跑通的前提。

8.3 对比：两代范式的切换

	旧范式	新范式（GLM-5.3 代表）
提升能力的手段	新一轮大规模预训练：堆数据、堆算力、堆参数	挖掘现有基座潜力，算力倾斜到后训练、任务环境、RL
成本	巨额预训练投入	无新增预训练成本
迭代速度	慢（数月到半年）	快
生态影响	需重新适配推理栈	完全继承原有推理生态[citation:26]

其他厂商也在同方向发力：DeepSeek V4.1 Flash 强调”经过更大规模的强化学习后训练”[citation:18]；Kimi K3 开源时同步公开了支撑训练的三项基础设施——MoonEP、FlashKDA、AgentEnv[citation:29]。

---

九、差异七：算力底座与软硬协同

9.1 硬件：代际差真实存在，但推理端在追平

📖 几个硬件名词：

• GPU：图形处理器，英伟达主导的 AI 通用加速卡（H100 / H200 / B200）。
• TPU：谷歌自研的 AI 芯片，Gemini 就跑在上面。
• NPU：“神经网络处理器”，国产 AI 芯片（如华为昇腾）常用的叫法。
• 卡 / 集群：一张加速卡 = 一块芯片；“十万卡集群” = 十万块芯片连起来一起训练一个模型。
• 训练 vs 推理芯片：训练要求极高的算力与卡间互联带宽；推理要求相对低。国产芯片在推理端已经能用，在超大规模训练端仍有代际差。
• 显存带宽 / 互联带宽：前者 = 芯片读自己内存的速度（决定”吐字快慢”），后者 = 卡与卡之间传数据的速度（决定”能不能高效组队”）。

客观事实[citation:50][citation:47]：

• 美国：英伟达 H100/H200/B200 占据全球训练 GPU 90% 以上份额；十万卡级集群普及；软硬协同成熟度高，算力利用率普遍做到 85%–90%[citation:50]。
• 中国：高端训练芯片获取受限；国产芯片单卡算力与显存带宽、多卡互联能力仍有差距，大规模集群通信损耗更高。有分析认为高端训练芯片整体落后 3–5 年，但推理芯片差距更小，基本满足国内产业落地[citation:50]。

9.2 国产算力 2026 年的真实进展

厂商	2026 年进展
华为昇腾	2025 年出货 81.2 万张，占国产厂商近半数[citation:43]；推理侧 950PR + Atlas 350（128GB 内存、1.6TB/s 带宽）；训练侧 950DT（144GB、4TB/s 带宽，2026 Q4 落地，自研 HiZQ 2.0 内存技术）；950 超节点理论支持 8192 卡互联，FP8 总算力达 1 EFLOPS，1024 卡液冷版已交付[citation:43]
阿里平头哥	2025 年出货 26.5 万张[citation:43]；新一代 M890（144GB 显存、800GB/s 互联带宽，支持 IP8/IP4 多精度）[citation:43]
其他	昆仑芯、摩尔线程、燧原、壁仞、海光、沐曦、天数智芯——移动云已完成这 8 家国产芯片的兼容接入[citation:46]

9.3 软硬协同：芯模协同是新战场

一个标志性案例：昇腾与 DeepSeek 的协同优化[citation:49]——

• DeepSeek V4 首次引入 KV Cache 滑窗和压缩算法，大幅减少 Attention 计算和访存开销；
• 昇腾 950 同步用融合 kernel（把多道计算合并成一道，减少反复读写显存的开销）和多流并行技术降低 Attention 开销；
• CANN 架构完成升级，组件分层拆分，上层模型与应用可”像插件一样灵活调用”，不再受限于固定模式[citation:49]。

另一条战线是推理框架的国产硬件适配。GLM-5.3 的官方部署矩阵已包含 vLLM-Ascend / xLLM / SGLang 的昇腾 NPU 路径[citation:30]。

还有一个值得注意的信号：Kimi K3 技术报告披露的 GPU 内核优化测试中，测试环境同时覆盖了 NVIDIA H200 与其他供应商的 GPGPU——意味着部署能力已不局限于英伟达生态[citation:29]。

9.4 底层框架的差距是最大的软件壁垒

这点必须诚实说：

• PyTorch / TensorFlow 垄断全球约 90% 开发者，**CUDA（英伟达的 GPU 编程体系）**形成强绑定生态[citation:50]。打个比方：CUDA 像某品牌发动机专用的维修体系，全球绝大多数 AI 工程师只会修这一种；换发动机就得重学。
• 百度飞桨、华为 MindSpore 等实现全栈自研，但全球开发者占比仅约 6%，海外社区活跃度低；大量海外开源模型无法直接适配国产框架，必须二次改造。多数国内中小厂商仍在基于 PyTorch 做二次开发[citation:50]。

也就是说：国产算力在”能跑”上已经过关，在”好用、生态顺滑”上仍有明显差距。

---

十、差异八：推理工程与成本结构

10.1 价格差是最直观的结果

📖 怎么读这张价格表？ 大模型 API 按 token 计费，表中是每 100 万 token 的价格。输入与输出分开计价，且输出通常比输入贵 3–5 倍——因为生成（decode）远比读取（prefill）消耗资源。所以”输出密集型”应用（长文写作、Agent 长任务）比”输入密集型”（文档问答）贵得多。

2026 年 10 月的 API 价格（每百万 token，输入 / 输出）[citation:1][citation:9][citation:13]：

模型	输入	输出
GPT-6 Astra	$10	$50
Claude Fable 5.1	$10	$50
Claude Opus 5.5	$4	$20
GPT-6.1 Sol	$2	$10
Grok 4.7	$2	$6
Gemini 4 Argon	$2→$4	$10→$20
Qwen3.8-Max	$2	—
GLM-5.3	$1.40	—
Gemini 3.8 Flash	$0.75	$3.75
DeepSeek V4.1 Flash	$0.15–0.30	$1.20
GPT-6 Luna	$0.10	$0.50
混元 Hy3	¥1（约 $0.14）	¥4

第三方分析指出：美国旗舰级 API 定价在 $15–50 区间，中国大模型往往只有其十分之一甚至三十分之一[citation:47]。

需要注意的是，这个价差不完全来自效率——也包含市场策略（价格战抢份额）与成本结构差异（人力与运营成本）。把它单纯解读为”技术领先”或”技术落后”都不准确。

10.2 双方共用的推理优化技术栈

有意思的是，推理工程这一层的技术是高度共享的，国内外用同一套工具箱[citation:40][citation:37]：

技术	作用	国内的特殊贡献
GQA / MLA	压 KV Cache	MLA 由 DeepSeek 首创
PagedAttention	解决显存碎片化，提升并发	vLLM 生态
FlashAttention	IO 感知的分块计算	—
FP8 / FP4 量化	2026 年 FP8 已是生产级标准；Blackwell 原生支持 FP4	国产卡同步支持低精度[citation:43]
MTP（多 token 预测）	2–3x 加速	Qwen3.8 做了多步 MTP 训练[citation:11]；DeepSeek V4 保留 MTP 策略[citation:14]
投机解码（EAGLE-3 等）	3.0–6.5x 加速，数学上无损[citation:37]	—
Prefill-Decode 分离	两阶段硬件需求不同，分开调度	Mooncake（Kimi）与 SGLang 是该方向的先驱[citation:40]
前缀缓存	30–50% 缓存节省	DeepSeek 缓存命中价低至 ¥1/百万[citation:10]

📖 这几项技术分别在省什么？ 一句话版：

• GQA / MLA：少存 KV Cache → 省显存；
• PagedAttention：把显存分页摆放 → 减少碎片、提高并发；
• FlashAttention：改读写顺序、少搬数据 → 省时间（不改数学结果）；
• 量化（FP8/INT4）：降低数值精度 → 省显存 + 省带宽；
• MTP / 投机解码：一次多产出几个词 → 省等待时间；
• Prefill-Decode 分离：读题和写答案用不同硬件 → 提高整集群利用率；
• 前缀缓存：重复的系统提示词不重算 → 省重复计算。

值得单独提一句：Mooncake 是 Moonshot（Kimi）开源的推理服务系统，在 prefill-decode 分离架构上是全球公认的先行者[citation:40]。这类”系统级原创”是国内在软件栈上少数的、被国际同行直接引用的贡献。

10.3 成本优势的真实来源

把 DeepSeek V4.1 Flash 的一个真实账单案例摆出来（Hacker News 开发者实测）[citation:6]：

工作负载：自主多智能体扫描（重构 + 单元测试 + CI 修复）
输入 token：148,290,400    缓存命中率：94.2%
输出 token：1,420,100
总费用：$0.74

另一例：企业代码库重索引（1M 窗口）
累计 token：2,014,500,000（20 亿）
总费用：$10.18

（厂商/社区公开数据，非独立审计。）

这个成本能压到这么低，靠的是四层叠加：极致稀疏（1.4% 激活）+ 架构级 KV 压缩 + 高缓存命中率 + 低价策略。缺任何一层都做不到。

---

十一、差异九：数据与对齐的本土化

11.1 “中文数据墙”来得更早

📖 什么是”数据墙”？ 大模型预训练需要海量高质量文本，而公开互联网上的优质文本正在被用完。当可用的新数据增长跟不上模型规模扩张，能力就不涨了——这就是撞上”数据墙”。中文互联网优质文本存量本就少于英文，所以中文的数据墙来得更早。

这是一个国内特有的、正在加速显现的约束[citation:35]：

• 公开互联网上中文优质文本的占比本就低于英文；
• 翻译腔的合成中文无法完全替代原生语料的表达多样性；
• 因此”中文数据墙”比全球平均时间表更早进入视野[citation:35]。

应对手段：合成数据验证与私有语料采购投入明显加速。面壁智能开源的 Ultra-FineWeb-L3 是目前最大规模的开源中文预训练合成数据集，总量突破 6000 亿 token[citation:38]。

全球层面，2026 年头部实验室的预训练数据策略大致是三层结构[citation:35]：

1. 存量精耕（地基）：过滤、去重、多轮重复利用；
2. 增量外购（风险对冲）：出版商授权与私有数据交易；
3. 多模态与私有数据（买时间）：视频/图像折算 token 更多是”稀释墙”而非”推倒墙”。

11.2 对齐目标的双轨 vs 单轨

这是一个客观存在、但常被情绪化讨论的差异[citation:41]：

• 西方对齐：聚焦广谱安全护栏、政治中立、通用有用性。
• 中国对齐：双轨——既要满足内容合规的刚性要求，又要针对本土企业场景（电商、本地金融、工业自动化）优化效用。

结果是一个有意思的副作用：RL 循环被调优为惩罚偏离既定事实框架的行为，这反而提升了模型在代码生成、数学推理等高度规范化任务上的结构精度[citation:41]（第三方分析，非厂商结论）。

代价则是：在非本土语境、多元价值观的复杂场景中，可能表现出较强的拒答倾向[citation:41]。

---

十二、优劣势总表与选型建议

12.1 全景对照

维度	国外（以美国头部为代表）	国内（以头部开放权重厂商为代表）
能力上限	绝对前沿能力仍领先；复杂推理、长程 Agent 见长[citation:13]	通用能力差距收窄至约 3%[citation:44]；局部（如漏洞发现）已反超[citation:30]
架构透明度	极低，参数与结构基本不公开	极高，层数/专家数/激活策略多可查[citation:11]
效率工程	稳健取向（GQA 为主）	激进取向（MLA / 线性 / 稀疏混合），激活率压到 3%–5%
成本	高（$10–50 / 百万 token 档位）	低（常为国外 1/10–1/30）[citation:47]
部署自由度	只能调 API，数据必须出网	权重可下载，可私有化、内网隔离部署
算力底座	充裕且自主，软硬协同成熟（利用率 85%–90%）[citation:50]	受限，倒逼国产替代；推理端已规模化，训练端仍有代际差[citation:50]
底层框架话语权	PyTorch + CUDA 生态主导全球约 90% 开发者[citation:50]	飞桨/MindSpore 全栈自研，但全球占比约 6%[citation:50]
生态影响力	闭源生态以 API 为中心	Qwen 衍生模型超 15 万，成事实基础模型[citation:48]
多模态	端到端原生起步早，物理世界/长时序推理更强[citation:33]	头部已转原生；视频/音频生成具全球竞争力[citation:33]
安全管控	统一护栏，商业场景信任度高[citation:39]	合规体系完善，但本土化对齐在跨文化场景容错不足[citation:41]

12.2 实用性选型建议

📖 建议里的四个动作分别是什么？

• 私有化部署 / 内网隔离：把模型装在自己的服务器里，数据不出公司网络——金融、政务、医疗、代码审计的硬要求。
• 微调：用自己的数据继续训练，让通用模型懂你的业务。
• 蒸馏：用大模型教出一个小模型，保留大部分能力但成本大幅下降。
• 定制算子：为特定硬件（如昇腾 NPU）手写优化过的计算单元，把性能榨干。

选国内开放权重，当你：

• 数据不能出内网（金融、政务、医疗、军工、代码审计）；
• 需要微调、蒸馏、定制算子；
• 成本敏感且量大（批量推理、Agent 长任务）；
• 部署在国产算力上（昇腾、海光、壁仞等）；
• 主要服务中文场景。

选国外闭源，当你：

• 需要当前最高能力上限，且任务容错低；
• 服务全球多元用户，涉及跨文化合规；
• 需要成熟的全球企业服务与 SLA；
• 没有本地部署的工程能力。

一个务实的组合策略：用闭源旗舰做”能力天花板验证”，用开放权重做”规模化生产”。这在 2026 年已是很多团队的标准做法。

---

十三、结语：差距的形状

如果要给这场差异画一个形状，它不是”一条线谁在前面”，而是一张三条腿的凳子：

层面	差距性质	收敛速度
模型能力与工程效率	可量化的量化差距，已从 15% 收窄到约 3%[citation:44]	快——这是被工程创新直接推动的
算力底座与底层框架	结构性差距（芯片代际、CUDA 生态、数据中心规模）	慢——非工程优化能完全弥补[citation:47]
原创范式定义权	Transformer（骨架）、RLHF（人类反馈强化学习）、CoT（思维链）、MoE（混合专家）等核心范式多源自美国机构[citation:39]	最慢——需要基础研究的长期积累

三个值得记住的判断：

1. 不要把”效率创新”误读为”全面领先”。中国在单位算力产出上确实走在前面，这是真实的能力；但它的起因是约束，不是天赋。约束一旦放松，优势未必保持。

2. 也不要把”算力差距”误读为”能力必然落后”。历史已经证明，算力约束会逼出架构创新——MLA、KDA、非对称 Encoder-Decoder、纯后训练范式，这些都不是在算力充裕环境下会优先想到的方案。

3. 真正的长期变量是生态。Qwen 衍生模型 15 万个、每天新增 180–210 个[citation:48]，这个数字比任何 benchmark 分数都更能预测五年后的格局。因为架构可以复现，生态不能。

最后提醒一个正在发生的变化：最宽松的中国实验室已开始给许可加边界（营收门槛、商用授权）[citation:51]，美国硬件厂商则把开放模型当作卖芯片的手段[citation:51]。双方的路线都不是静态的——开放与封闭的界线，正在从”意识形态”回归到”商业计算”。

---

附：本文关键数据来源说明

类型	来源性质	使用原则
架构参数（DeepSeek V4、Qwen3.8、Kimi K3、MiniMax 等）	厂商官方 Model Card / 技术报告 / 官方文档	直接采用
性能基准（Terminal Bench、CyberGym 等）	厂商自报	标注为厂商口径，未独立复现
中美差距百分比、LiveBench 分数	彭博等第三方机构测算	标注为第三方测算
算力份额、管制政策	斯坦福 HAI、BIS 新规、第三方分析	交叉引用
许可协议统计	Hugging Face 2026 夏季报告	直接采用
国产芯片规格	厂商公开资料与行业媒体	标注进展，不做性能断言

⚠️ 大模型领域信息迭代极快，本文事实截至 2026 年 10 月 26 日。涉及具体选型时，请以厂商最新官方文档为准。