Aug 21, 2026 · vLLM
v0.28.0rc2: [Spec Decode] DFlash2: local convolution + candidate selector (#52816)
vLLM 项目发布了 v0.28.0rc2 版本,其中包含一个名为 DFlash2 的 Spec Decode 功能,该功能涉及局部卷积和候选选择器。此版本是从提交 b389ac2 中 cherry-pick 而来,由 khluu 签署。
EVENT STORY
Development
- First Reportv0.28.0rc2: [Spec Decode] DFlash2: local convolution + candidate selector (#52816)vLLM
- Current AssessmentvLLM 作为开源推理框架,其版本更新反映了推理性能优化的持续投入,可能影响依赖 vLLM 的推理服务提供商。Agent Pulse · analysis
vLLM 在 v0.28.0rc2 版本中引入了 DFlash2,这是一个用于推测解码的组件,结合了局部卷积和候选选择器,旨在提升解码效率。
DFlash2 的引入表明 vLLM 在推测解码方面持续优化,局部卷积可能用于处理局部上下文,候选选择器可能用于筛选候选 token,但具体机制未在证据中详述。
vLLM 作为开源推理框架,其版本更新反映了推理性能优化的持续投入,可能影响依赖 vLLM 的推理服务提供商。
该更新可能提升 vLLM 的推理效率,降低使用者的推理成本,但具体影响需待性能数据验证。
后续可关注 vLLM 正式版本中 DFlash2 的性能基准测试结果,以及是否被其他推理框架采纳。