2026年8月21日 · vLLM
v0.28.0rc2: [Spec Decode] DFlash2: local convolution + candidate selector (#52816)
vLLM 项目发布了 v0.28.0rc2 版本，其中包含一个名为 DFlash2 的 Spec Decode 功能，该功能涉及局部卷积和候选选择器。此版本是从提交 b389ac2 中 cherry-pick 而来，由 khluu 签署。
EVENT STORY
发展脉络
- 首次出现v0.28.0rc2: [Spec Decode] DFlash2: local convolution + candidate selector (#52816)vLLM
- 当前判断vLLM 作为开源推理框架，其版本更新反映了推理性能优化的持续投入，可能影响依赖 vLLM 的推理服务提供商。Agent Pulse · 分析
vLLM 在 v0.28.0rc2 版本中引入了 DFlash2，这是一个用于推测解码的组件，结合了局部卷积和候选选择器，旨在提升解码效率。
DFlash2 的引入表明 vLLM 在推测解码方面持续优化，局部卷积可能用于处理局部上下文，候选选择器可能用于筛选候选 token，但具体机制未在证据中详述。
vLLM 作为开源推理框架，其版本更新反映了推理性能优化的持续投入，可能影响依赖 vLLM 的推理服务提供商。
该更新可能提升 vLLM 的推理效率，降低使用者的推理成本，但具体影响需待性能数据验证。
后续可关注 vLLM 正式版本中 DFlash2 的性能基准测试结果，以及是否被其他推理框架采纳。