DeepSeek DSpark：让大模型推理速度大涨 85% 的推测解码新方案
DeepSeek DSpark：让大模型推理速度大涨 85% 的推测解码新方案
发布时间： 2026年6月27日（论文）, 7月6日（arXiv）
来源： GitHub: DeepSpec · arXiv: 2607.05147
配图： 无
概述
DeepSeek 团队联合北京大学发布 DSpark——一种新型推测解码（Speculative Decoding）框架，针对大模型高并发推理场景做了系统级优化。论文作者栏出现了 梁文锋 的名字。
DSpark 已在 DeepSeek V4-Flash 和 V4-Pro 的预览版引擎上部署。结果表明：V4-Flash 在高 SLA 约束下吞吐量最高提升 661%，单用户生成速度提升 60%-85%。训练代码和模型权重已通过 MIT 许可在 GitHub 的 DeepSpec 仓库中开源。
一、什么是推测解码？
大模型自回归解码每步只生成 1 个 token，GPU 利用率极低（受限于显存带宽而非算力）。推测解码采用"草稿-验证"范式：
- 用轻量级草稿模型（draft model）快速生成多个候选 token
- 用完整目标模型（target model）并行验证这些候选
- 接受与目标分布一致的前缀，丢弃不一致部分
关键优势：与原始模型输出分布完全一致（无损加速）。
二、DSpark 的两大创新
2.1 半自回归架构
| 类型 | 代表 | 优势 | 劣势 |
|---|---|---|---|
| 自回归草稿器 | Eagle3 | 草稿质量高 | 延迟随块大小线性增长 |
| 并行草稿器 | DFlash | 延迟几乎恒定 | 后缀 token 接受率急剧下降 |
| DSpark 半自回归 ✅ | 新方案 | 两者兼顾 | 微小额外开销 |
DSpark 将自回归与并行融合：并行主干（Parallel Backbone）承担大部分计算，轻量级顺序模块（仅 2 层 Transformer）补充依赖关系。
2.2 置信度调度验证
问题：传统方案为所有候选 token 分配相同的验证预算，不管质量好坏。
DSpark 的解法：
1. 置信度头：为每个 draft token 估计存活概率
2. 顺序温度缩放：校准置信度，匹配真实接受率
3. 硬件感知调度器：根据实时负载动态决定每个请求的验证长度
高质量候选优先验证，尾巴上大概率被拒的 token 直接截断——不再"一刀切"。
三、线上实测效果
| 场景 | 指标 | 提升幅度 |
|---|---|---|
| V4-Flash 中等 SLA | 吞吐量 @ 80 tok/s | +51% |
| V4-Flash 严格 SLA | 吞吐量 @ 120 tok/s | +661% |
| V4-Pro 中等 SLA | 吞吐量 @ 35 tok/s | +52% |
| V4-Pro 严格 SLA | 吞吐量 @ 50 tok/s | +406% |
| 单用户（V4-Flash） | 生成速度 | +60%~85% |
| 单用户（V4-Pro） | 生成速度 | +57%~78% |
661% 的真实含义：在严格 SLA 下，基线模型已接近运行极限，吞吐量几乎归零。DSpark 通过智能调度仍然保持有效并发。更可靠的对比是单用户速度提升 60%-85%。
四、与 Eagle3 和 DFlash 的对比
| 维度 | Eagle3 | DFlash | DSpark 🏆 |
|---|---|---|---|
| 草稿架构 | 特征级+token级自回归 | 块扩散预测 | 半自回归（混合） |
| 草稿延迟 | 随块大小线性增长 | 几乎恒定 | 几乎恒定 + ε |
| 后缀衰减 | 轻微 | 严重 | 明显缓解 |
| 验证策略 | 静态 | 静态 | 动态、负载感知 |
| 开源 | ✅ | ✅ | ✅ MIT |
五、战略意义
- 从产品竞争到基础设施竞争：DeepSeek 在 5000 亿融资后第一周放出的不是 PR 稿，而是一篇论文+全套开源代码——推理效率是下一代模型竞争力的核心
- 系统级优化的先河：首次将系统负载感知引入推测解码，在高并发场景效果显著
- 开源生态：DeepSpec 仓库（MIT）同时开源了 Eagle3、DFlash 和 DSpark 三套方案的训练代码
- 生产验证：已在真实用户流量中替代之前的 MTP-1 生产基线
本文基于 arXiv 论文、GitHub 仓库等公开资料整理。