
DeepSeek 过去最大的省钱槽点莫过于服务器频繁崩溃,但这一局面有望彻底终结。只服
原因在于,梁文梁文锋挂名发表了最新论文《DSpark:基于置信度调度的省钱推测解码与半自回归生成》。按照 DeepSeek 的只服命名惯例,DSpark 应读作 D·Spark,梁文而非 DS·park。省钱
这是只服继 2024 年《DeepSeek LLM》之后,梁文锋挂名的梁文第 12 篇论文。值得注意的省钱是,DSpark 的只服核心思路与其 2010 年的硕士毕业论文存在惊人的相似性。
DSpark 相当于为 DeepSeek 安装了“加速器”,梁文用户最直观的省钱体感便是:快、稳、只服不崩。梁文
同等质量的回答,生成速度提升 60% 至 80%。原本需要等待 10 秒的回复,现在仅需 5-6 秒即可呈现。
最关键的是,在流量高峰时段,DeepSeek 将不再频繁出现“转圈”加载现象。
DSpark 究竟有何魔力?下文为您深度解析。
大模型生成文本的本质,是一场“猜字游戏”。模型每输出一个字,都必须重新审视并计算此前生成的所有文字,才能推断出下一个字。
这意味着,每写一个字,AI 都要从头到尾重新运算一遍。若生成 100 个字,模型需自我消化 99 次。学术界将这种“自我回归”的过程称为自回归生成(Autoregressive Generation)。
这种机制导致当前状态必须等待上一状态计算完毕才能启动,效率低下。因此,业界长期致力于探索一种机制:让模型能否一次性预测多个字?
这正是 DSpark 论文的核心机制——投机解码(Speculative Decoding)。
该机制引入一个速度较快但精度稍逊的“草稿模型”。草稿模型凭直觉一次性预测后续多个字,随后交由大模型进行验证。
此举既保证了内容符合大模型标准,又显著提升了生成速度。
业内通常有两种投机解码策略,但均存在缺陷:
DSpark 融合了上述两种策略,并引入了置信度调度(Confidence-based Scheduling)。
第一步:快速生成与自检
草稿模型以极快速度生成后续文字,随后进行初步自检,排查语句不通顺或错别字。
第二步:置信度打分
DSpark 为每个预测字赋予“靠谱分”(如:第 1 字 90 分,第 2 字 80 分...)。
* 传统困境:若发现错误并修正,需退回自回归模式,导致前期加速成果付诸东流。
第三步:动态调度验证
DSpark 提前测量大模型在不同批处理大小下的处理速度,并根据置信度对请求进行排序:
1. 优先验证高分批次:首先将置信度最高的请求提交给大模型验证。由于数量少,处理极快。
2. 边际效益计算:系统评估是否加入第二批(如 80% 正确率)。计算“额外耗时”与“多获正确Token数”的比值。若收益大于成本,则加入;否则放弃。
3. 动态调整:
* 低负载时:全量提交,尽可能多猜对。
* 高负载时:仅提交高分请求,避免低概率正确的请求占用 GPU 资源,从而服务更多用户。
此前许多加速方案在单用户测试中表现优异,但在高并发场景下极易崩溃。DeepSeek 夜间卡顿、宕机的根本原因在于:
* GPU 批处理压力过大:用户请求激增。
* 算力浪费:传统的 MTP-1 方案将大量算力浪费在验证大概率错误的 Token 上。草稿模型生成的错误 Token 被大模型驳回,但驳回过程已消耗宝贵的 GPU 周期。
* 吞吐量下降:有效吞吐量被严重拉低,请求积压,导致用户体验卡顿。
DSpark 通过动态调度,精准剔除低效验证,显著缓解了这一瓶颈。

在 AI 行业,训练成本是一次性的,而推理成本是永续的。
因此,谁能降低推理成本,谁就能掌握盈利主动权。模型越强,若推理成本失控,厂商反而死得越快。
在完全不改变硬件的前提下,DSpark 使每个用户的生成速度提升 60% 至 85%。
面对热点事件导致的大量并发请求,旧系统往往因排队过长导致用户流失,或因无法扩容而崩溃。
DSpark 通过动态调度,在负载升高时自动缩短验证长度,避免占用关键批处理容量,从而在不增加 GPU 硬件的情况下扛住流量高峰。
投机解码的数学性质决定了其拒绝采样机制能严格保证:大模型最终输出的 Token 概率分布,与逐字生成的分布完全一致。
论文原文引用:
"The acceptance rule preserves the target distribution exactly, speculative decoding accelerates generation without any quality loss."
(接纳规则精准保留目标分布,投机解码在不损失输出质量的前提下加速生成。)
DeepSeek 推理成本降低约 40%,为其提供了更大的降价空间。
* API 定价:DeepSeek 本就拥有行业最低定价,成本进一步降低后,Token 价格可能继续下调,甚至提高免费用户额度。
* 开源 DeepSpec:DeepSeek 不仅发布模型权重,还开源了 DeepSpec训练框架。这是一套用于训练投机解码草稿模型的统一工具箱,用户可利用其为自己的 Qwen3、Gemma 等模型训练草稿模型。
此举将全行业的推理成本基准线进一步拉低。
2010 年,梁文锋在浙江大学攻读硕士,其毕业论文题为《基于低成本 PTZ 摄像机的目标跟踪算法研究》。
这一选题极具“梁文锋风格”。当时,计算机视觉实验室标配是数万元一台的高精度工业相机。梁文锋反其道而行之,使用仅几百元的民用球机。
他的核心论点:硬件差距可通过算法弥补。通过自研跟踪算法优化,他将廉价摄像头的跟踪精度提升至接近高端设备的水平。
16 年过去,梁文锋依然执着于“用算法为硬件省钱”,初心未改。
因为钱是梁文锋自己的。
据外媒报道,DeepSeek 成立近三年,完全由梁文锋创立的幻方量化以利润供养,期间多次拒绝外部投资。
外部资金不直接进入 DeepSeek 主体,而是注入由梁文锋担任普通合伙人的有限合伙企业。外部投资者仅作为有限合伙人,享有收益权和财务查阅权,无投票权,且股份锁定五年,禁止转让退出。
在 DeepSeek,梁文锋身兼投资者、管理者、研究者三重身份。
这种身份叠加形成了一个罕见的决策闭环:
1. 研究者提出“可以省”;
2. 管理者判断“应该省”;
3. 投资者确定“自己买单也愿意省”。
无层级汇报,无跨部门扯皮。
DSpark,正是这条极致效率决策链的最新产物。