AGENT PULSEAI Industry Evidence & Trends
Star235
Aug 24, 2026 · llama.cpp

b10604

What Happened

llama.cpp 发布 b10604 版本,包含 Deepseek 4 的 sm tensor 支持,设置更细粒度的 head splits,修复 dspark,添加 dsv4 模型保存,允许 dflash 在特定设备返回,添加 dsv4 seq_rm 注释,简化共享专家延迟 allreduce,移除 dsv4 特殊测试。该版本提供多平台构建,包括 macOS、iOS、Linux、Android、Windows 和 openEuler,并支持多种后端如 Vulkan、ROCm、OpenVINO、SYCL、CUDA 等。

EVENT STORY

Development

  1. First Reportb10604llama.cpp
  2. Current Assessmentllama.cpp 持续快速迭代,支持多种硬件后端,反映了开源推理生态的活跃和多样性。Agent Pulse · analysis
What Changed

llama.cpp 发布 b10604 版本,主要更新包括对 Deepseek 4 的 sm tensor 支持,改进了 head splits 的粒度,修复了 dspark,并添加了模型保存功能。该版本提供了广泛的平台和后端支持。

How the Capability Boundary Shifted

该版本对 Deepseek 4 的 sm tensor 支持表明 llama.cpp 正在适配新模型架构,可能涉及更高效的张量并行或内存管理。

Why It Matters

llama.cpp 持续快速迭代,支持多种硬件后端,反映了开源推理生态的活跃和多样性。

Who It Affects

llama.cpp 的更新为开发者提供了更多选择,可能降低推理成本,促进 AI 应用部署。

What to Watch Next

后续可关注 Deepseek 4 在 llama.cpp 上的推理性能优化和更多功能支持。