← 返回全部文章
·约 17 分钟PPT

125B 模型只激活 6B,反超 Claude Opus 4.6:阿里把训练成本压到上一代的 1/9

检索记忆

配套媒体

本页对应的 PPT 与演示视频

qwen38-flash-next-recommend.mp4
PPT
qwen38-flash-next-recommend.pptx浏览器不能直接打开 PPT,下载后用 PowerPoint / WPS / Keynote 查看
下载没反应?点这里复制直链

侧边栏预览窗口(Electron webview)会拦截下载,把下面的链接复制到 Chrome / Edge 地址栏打开即可保存。

PPT../../qwen38-flash-next-recommend.pptx
视频../../qwen38-flash-next-recommend.mp4
本文目录
  1. 一、钩子:6B 激活打败 200B+,是真的吗?
  2. 二、它凭什么做到?四个架构级手术
  3. 1. 注意力:GDN + QSA 混合(核心杀手锏)
  4. 2. 残差:Gated Residual(GR)
  5. 3. 嵌入:51B 的 N-gram Embedding
  6. 4. 优化器:Muon + AdamW 重构 + 免 Warmup
  7. 三、价格震撼:1 元/百万输入,1/40 的 Opus
  8. 四、它能干嘛?长上下文 + 多模态 agent
  9. 长上下文
  10. 多模态 agent
  11. 编程 & 办公基准(同组最佳)
  12. 五、Qwen4 的"架构试做机"
  13. 六、怎么用?一条命令本地跑
  14. 1. 官方 API(最简单)
  15. 2. 千问办公 QwenWork
  16. 3. 本地 / 自托管
  17. 4. 微调与 Agent
  18. 七、边界与定位:这是"预览",不是终局
  19. 八、收尾:开放权重的"架构预览"意味着什么
  20. 配图位

125B 模型只激活 6B,反超 Claude Opus 4.6:阿里把训练成本压到上一代的 1/9

一句话结论:2026 年 8 月 26 日深夜,阿里 Qwen 团队把 Qwen4 的架构提前开源了——模型叫 Qwen3.8-Flash-Next,总参数 125B + N-gram 嵌入 51B,但每生成一个 token 只激活 6B,训练成本只要 Qwen3.7-Plus 的 1/9,价格直接打到 每百万输入 token 1 元人民币。一个 6B 激活的小身体,把 200B+ 的 Opus 4.6 打得找不着北。


一、钩子:6B 激活打败 200B+,是真的吗?

先把最反常识的事实摆桌面:

维度 Qwen3.8-Flash-Next Claude Opus 4.6 Max
总参数 125B + 51B N-gram 未公开(业内估算 >200B)
每 token 激活 6B 全部激活
SWE-bench Pro(智能体编程) 62.5 53.4
JobBench(专业办公任务) 55.7 36.6
AndroidWorld(手机操作) 84.5 62.0
MathVision(视觉数学) 90.6 / 95.7 65.5 / 70.6

数据来源:阿里 Qwen 官方博客(2026-08-26)+ Hugging Face 模型卡片(vendor-reported)

翻译成人话:一个只点亮 6B 参数的模型,在编程、智能体、办公三个核心场景上,领先 Claude Opus 4.6 至少 9 到 20 分。这件事放在两年前,等于有人用一台 1.5L 自吸发动机跑赢了 V8——而且更省油。

金句可截图:「前沿模型竞赛,从拼参数,转向改架构。」


二、它凭什么做到?四个架构级手术

Qwen 团队自己拆解得很清楚:这次升级不是堆数据、改 RLHF、也不是更大的模型,而是沿四个维度动了架构。

1. 注意力:GDN + QSA 混合(核心杀手锏)

传统 Transformer 的注意力是"每个 token 都要看前面所有 token",序列越长,平方级膨胀。Qwen3.8-Flash-Next 用了一套双层分工:

  • GDN(Gated DeltaNet):把历史信息压成一个固定大小的状态,3/4 的层都靠它"高效压缩历史"。这玩意儿不是新东西——Qwen3-Next 就已经用上了,Qwen3.5 到 3.8 整个家族都受益。
  • QSA(Qwen Sparse Attention):新增。把序列切成"微块(micro-block)",先用轻量索引器在块级别估算重要性,只对关键块做完整注意力。

效果:在 1M token 上下文里,QSA Attention Kernel 让 Prefill 加速 7.6 倍、Decode 加速 4.9 倍;90% 前缀缓存命中时,Prefill 吞吐达到上一代 Qwen3.7-Plus 的 8.6 倍。

2. 残差:Gated Residual(GR)

传统 Transformer 只有一条残差通道,所有信息挤在一起。GR 把它拓宽成 4 条并行分支,每条配一个数据相关的读写门——模型可以自己决定"这一层该不该读上一层的状态、该不该写下去"。

训练中自然涌现出一条"长程路径":第一层的注意力能直接连到后面大多数层,跨层信息流比传统残差强得多。FP8 存储,激活异常值也被压住,训练稳定性直接拉满。

3. 嵌入:51B 的 N-gram Embedding

这是最有意思的设计。模型主参数是 125B,再外挂 51B 的 N-gram 嵌入表——但这 51B 不参与每 token 计算。它只在第 2 层做"查表",找本地常见的 bigram / trigram 模式。

关键红利:这张大表可以卸载到主机内存,靠异步预取跟 GPU 计算重叠——等于用近乎零的成本,给模型外挂了一本"记忆手册"。N-gram 嵌入的存在,让 6B 激活也能装得下 176B 的知识量。

4. 优化器:Muon + AdamW 重构 + 免 Warmup

Muon 优化器用在注意力 / GDN / MoE 专家权重上,AdamW 留给嵌入 / Router / GR 的低秩部分。Qwen 团队重新拟合了缩放律,发现可以直接取消 Batch Size Warmup——传统做法是从小 batch 慢慢涨,他们上来就用满 batch,反而更稳、还省 18.8% 的优化器步数。

升级点 旧做法 Qwen3.8-Flash-Next
注意力 全 token 注意力 GDN(3/4 层)+ QSA 微块稀疏(1/4 层)
残差 1 条主干 4 条并行分支 + 动态门控读写
嵌入 单 token 嵌入 主 125B + N-gram 51B 卸载到主机
优化器 AdamW + Warmup Muon+AdamW 分工 + 免 Warmup

三、价格震撼:1 元/百万输入,1/40 的 Opus

官方价格表(QwenCloud):

模型 输入价(每百万 token) 输出价(每百万 token)
Qwen3.8-Flash $0.16(约 ¥1.15) $0.47(约 ¥3.40)
Claude Opus 4.6 $15 $75
DeepSeek-V4-Flash(峰值) $0.45 $1.40

注:阿里官方对外口径为「每百万输入 1 元人民币,输出 3 元人民币」,含限时折扣。

翻译:你给一个 6B 激活的模型花 1 块钱,能拿到接近 Opus 4.8 的能力。这不只是"便宜"——是把智能的单位成本重新定义了。

训练侧更狠:阿里宣称训练成本只有 Qwen3.7-Plus 的 1/9(即降 88.9%)。换算一下,Qwen3.7-Plus 是 397B 总参数 + 17B 激活,新模型是 125B + 51B + 6B 激活,参数总量压到三分之一,激活压到三分之一,训练算力压到九分之一。


四、它能干嘛?长上下文 + 多模态 agent

参数再漂亮,最终要落地。Qwen3.8-Flash-Next 不是一个"会写诗"的聊天玩具,它的官方定位是长上下文、多模态 agent 底座。

长上下文

  • 原生支持:262,144 tokens(≈ 256K)
  • YaRN 扩展:可达 1,000,000 tokens
  • 真实场景加速:高缓存命中场景下,1M token Prefill 提速 8 倍以上

这意味着你可以把整个代码库(中型项目)、一本中文学术专著、几个月的工作邮件扔进去,让它做"全上下文推理"。

多模态 agent

不是只读文本,还能看图 + 操作界面:

评测 分数 说明
AndroidWorld 84.5 模拟手机操作,比 Opus 4.6 高 22.5
OSWorld 2.0(Binary) 19.4 真实桌面 GUI 操作
MathVision(无 CI) 90.6 视觉数学推理,比 Opus 4.6 高 25.1
MathVision(有 CI) 95.7 加 chain-of-images
RealWorldQA 88.5 真实世界视觉问答
CharXiv 79.7 长文档视觉理解

翻译:这模型能直接看懂你的电脑屏幕、帮你点鼠标——不是 GPT-4o 那种"看图说话",是真·多模态 agent。

编程 & 办公基准(同组最佳)

基准 Qwen3.8-Flash-Next Qwen3.8-27B Qwen3.7-Plus DeepSeek-V4-Flash Claude Opus 4.6 Max
DeepSWE 1.1 58.7 42.2 16.5 54.4 —
SWE-bench Pro 62.5 61.7 55.8 56.0 53.4
SWE-bench Multilingual 81.0 73.8 75.8 — 77.5
CoWorkBench(长程办公) 73.9 70.7 65.1 45.1 68.2
JobBench(专业任务) 55.7 33.4 27.6 41.3 36.6
Toolathlon Verified 73.5 67.1 50.6 70.3 —
LiveCodeBench v6 91.9 90.3 89.6 90.6 88.8

金句可截图:「一个 6B 激活的模型,拿了 7 个榜单第一。」

诚实标注:HLE 上 Qwen3.8-Flash-Next(35.9)确实没有超过 Claude 40.0;NL2Repo-Bench 上(48.1)也低于 DeepSeek-V4-Flash(54.2)。"全面领先"指的是在 coding / agent / 办公这三个主战场上拿下 best-in-class。


五、Qwen4 的"架构试做机"

这次发布的另一个关键信号:它是 Qwen4 的早期预览。

历史的剧本正在重演:

  • Qwen3-Next 引入了 GDN + GA 混合设计 → 这套设计随后贯穿 Qwen3.5 / 3.6 / 3.7 / 3.8
  • Qwen3.8-Flash-Next 引入了 GDN + QSA + GR + N-gram + Muon → 这套设计大概率会成为 Qwen4 全系的基础

也就是说:Qwen 团队把 Qwen4 的骨架提前开源了,让开发者在 Qwen4 全家桶落地前就能上车验证。

对开发者的意义:

  1. 现在就接 API:qwen3.8-flash,兼容 OpenAI + Anthropic 协议,本地用 transformers serve / vLLM / SGLang 都能拉起来;
  2. 现在就调模型:Unsloth / Swift / Llama-Factory 都支持 SFT / DPO / GRPO,等 Qwen4 来了直接迁;
  3. 现在就建 Agent 生态:Claude Code、Codex、Qoder CLI、Qwen Code、OpenClaw 都集成了,Agent 框架可以先在 Flash-Next 上跑通。

六、怎么用?一条命令本地跑

1. 官方 API(最简单)

# QwenCloud, OpenAI 协议兼容
curl https://www.qwencloud.com/v1/chat/completions \
  -H "Authorization: Bearer $QWEN_API_KEY" \
  -d '{"model": "qwen3.8-flash", "messages": [{"role": "user", "content": "你好"}]}'

2. 千问办公 QwenWork

阿里的一站式 AI 工作平台,新上线的 "Standard" 模式就由这个模型驱动,能扛 95% 的日常办公任务。

3. 本地 / 自托管

# transformers 直接拉起 OpenAI 兼容服务
transformers serve Qwen/Qwen3.8-Flash-Next --port 8000 --continuous-batching

# vLLM 高吞吐
vllm serve Qwen/Qwen3.8-Flash-Next --port 8000 \
  --tensor-parallel-size 4 --max-model-len 262144 \
  --reasoning-parser qwen3 --enable-auto-tool-choice \
  --tool-call-parser qwen3_coder

# SGLang 低延迟
sglang serve --model-path Qwen/Qwen3.8-Flash-Next --port 8000 \
  --tp-size 4 --context-length 262144 \
  --reasoning-parser qwen3 --tool-call-parser qwen3_coder

部署引擎 SGLang / vLLM / TokenSpeed 都原生支持 262K 上下文 + Qwen3 推理/工具调用解析器;权重双发布在 Hugging Face Hub + ModelScope(国内推荐 ModelScope)。

4. 微调与 Agent

  • 微调框架:Unsloth / Swift / Llama-Factory(SFT / DPO / GRPO)
  • Agent 集成:Claude Code、Codex、Qoder CLI、Qwen Code、OpenClaw

七、边界与定位:这是"预览",不是终局

清醒的边界同样重要:

  1. 它是 Qwen4 的架构预览,不是 Qwen4 本身。开放权重是为了让社区提前验证骨架,最终 Qwen4 全系会"建在这套架构之上"。
  2. 部分基准仍有对手领先:HLE 上 Qwen3.8-Flash-Next 35.9 < Claude 40.0;NL2Repo-Bench 上 48.1 < DeepSeek-V4-Flash 54.2。"1/9 成本"主要对比 Qwen3.7-Plus 的训练开销,跨厂商横向对比请以官方完整榜单为准。
  3. 许可证细节以权重附带文件为准——HF / ModelScope 上的 LICENSE 文件。
  4. 视觉语言数字来自官方博客,具体任务上的稳定性仍需社区实测。

八、收尾:开放权重的"架构预览"意味着什么

回到开头那句话——Qwen 把 Qwen4 的架构,提前开源了。

这件事的影响远超一个模型:

  • 你可以现在就上车:用 qwen3.8-flash 的 API 或 SGLang/vLLM 本地部署,提前摸清新架构的手感;
  • 你可以提前建生态:Agent 框架、微调流水线、长上下文应用,都能先在 Flash-Next 上跑通,等 Qwen4 全系到来时无缝迁移;
  • 它印证了一个更大的趋势:前沿模型竞赛,正从"堆参数"转向"改架构 + 控成本"——谁能以 1/9 的成本打出更强的 agent 能力,谁就握住了下一个时代的门票。

最后一句话:2026 年 8 月 26 日深夜,开源社区收到了一个 125B 模型,里面装着一份"未来 12 个月的开源 LLM 教科书"。


配图位

  1. {slug}-01-hero.png:标题 hero 大图——125B 总参数 vs 6B 激活的核心反差
  2. {slug}-02-architecture.png:四维架构升级(GDN+QSA / GR / N-gram / Muon)
  3. {slug}-03-benchmark.png:6 项核心基准 vs Opus 4.6 / DeepSeek-V4-Flash 的对比表
  4. {slug}-04-cost.png:训练成本 + 推理价格对比(1/9 + ¥1/M)
  5. {slug}-05-qwen4-roadmap.png:Qwen3-Next → Flash-Next → Qwen4 演进路线图

信源: