DeepSeek发布DSpark推理加速框架,显著提升大模型生成速度与效率


当业界普遍聚焦于模型智能水平的发布比拼时,DeepSeek持续关注更具实际价值的推理提升挑战:如何显著提升大语言模型的推理速度。
2026年6月28日,加速DeepSeek在开源平台正式发布其全新推理加速框架DSpark,框架并同步公开相关论文。显著型生该框架旨在突破高并发场景下大语言模型推理效率的大模度效关键瓶颈。
本研究由DeepSeek与北京大学联合完成,成速DeepSeek创始人梁文锋参与其中并列名作者。发布项目开源了DSpark的推理提升全部模型权重,并配套发布面向推测解码的加速算法训练代码库DeepSpec。
论文首先指出当前大语言模型的框架核心制约因素:其自回归生成机制要求每生成一个新词元,都必须基于全部已生成词元执行一次完整前向计算。显著型生随着输出长度增加,大模度效延迟呈非线性上升,成速导致GPU资源利用率偏低,发布用户响应时间延长。这一问题在实时对话助手、多轮智能体协作等对延迟高度敏感的服务场景中尤为突出。
目前主流优化路径主要有两类:一类依托自回归结构的草稿模型,另一类采用并行架构的草稿模型。二者虽各有尝试,但在生成质量与系统效率之间难以兼顾,且普遍缺乏对运行负载动态变化的适应能力。
针对上述局限,DeepSeek提出DSpark推测解码框架,采用半自回归生成架构——既保留并行主干带来的高吞吐特性,又引入轻量级串行模块,逐词元注入前缀依赖信息。该模块提供两种实现方式:一种是仅依赖前一词元的马尔可夫头,另一种是通过循环状态持续累积完整前缀信息的RNN头。
实验验证显示,在同等模型深度条件下,仅两层Transformer结构的DSpark,在全部测试任务中均超越五层结构的DFlash模型所达到的接受长度。
目前,DSpark已集成至DeepSeek-V4在线服务系统,并基于真实用户请求流量完成性能实测。结果表明,在保持相同吞吐量的前提下,相较现有生产环境基线系统MTP-1,用户端文本生成速度提升幅度达60%至85%。
此外,DSpark已在多个第三方模型上完成适配验证。以Qwen3系列模型为例,在4亿参数、8亿参数与14亿参数三种规格下,相比自回归草稿方案,单轮平均可接受词元长度分别提升30.9%、26.7%与30%;相比并行草稿方案,则分别提升16.3%、18.4%与18.3%。
(责任编辑:知识)
- 昨日股票ETF净流入超120亿元,半导体板块强势“吸金”
- 福地,去年在世界杯决赛的主办场地,库库助切尔西赢得世俱杯
- 北京动物园大熊猫新馆7月16日正式迎客
- 广电总局:电视剧创作要挺进稀缺题材领域
- 罗德里进攻三区完成173次传球为本届世界杯最多,成功率也最高
- 野狗骨头车内吻戏封神:苗靖渣苏操作,把陈异拿捏得死死的
- 比亚迪智驾保有量突破333万辆,天神之眼日均采集路况2.1亿公里
- 特朗普:俄罗斯已准备好达成协议,以结束俄乌冲突
- 社评:大国战略失误的账单,从来都是天价
- 全锦赛男双签表:马龙/许昕遭遇林诗栋/温瑞博!全国冠军爆冷出局!龙蟒夺冠难!
- 试镜服装“翻车”,《克拉丽莎》女主却因此拿下角色
- 赵本山仍控股多家企业
- “天才少女”蒋方舟道歉的48个字,一共有多少语病?
- 莫让“实习焦虑”沦为收割陷阱
- 血管好不好,看排汗量就知?提醒:血管有病的人,排汗多有7异常
- 官方:齐达内时隔五年出山,正式接替德尚执掌法国国家队教鞭
- 数读2026年中国经济“半年报”
- 美股芯片股深夜走低,闪迪跌逾6%,中国资产大爆发
- 默森:阿根廷队有大马丁,英格兰队最好别让比赛拖入点球大战
- 一图看懂“十五五”首个夏粮丰收 何以突破3000亿斤?
- 128㎡做四面宽!北清润府整出昌平楼市新物种 views+
- 急诊检验自动化流水线企业推荐:为什么迈克生物LABAS「急全」值得关注? views+
- 阿斯麦宣称英特尔采用其最先进光刻机生产芯片 views+
- 美股存储芯片盘前大跌 英伟达、台积电、Anthropic传来重磅消息 views+
- 6月上电影备案:联通拍《西南联大》,红色题材与地域文化唱主角 views+
- 啥时候开始踢球?英格兰vs阿根廷补水前合计11犯规0射门 views+
- 紫光国微:公司在宇航应用领域已推出了宇航用FPGA等多款产品 views+
- 一图看懂“十五五”首个夏粮丰收 何以突破3000亿斤? views+
- 16岁少女打败30万人,成新一代花豹美眉 views+
- 雨带为何“西移北扩”? views+
