2026年8月26日 · llama.cpp
b10632
llama.cpp 发布 b10632 版本,为 Mamba-2 预填充添加了分块 SSD MMA 优化,并新增了 FC_SSM_SCAN 常量。
EVENT STORY
发展脉络
- 首次出现b10632llama.cpp
- 当前判断llama.cpp 持续优化新架构(如 Mamba-2)的推理性能,表明开源社区对状态空间模型的关注度提升。Agent Pulse · 分析
llama.cpp 在 b10632 版本中为 Mamba-2 预填充添加了分块 SSD MMA 优化,并新增了 FC_SSM_SCAN 常量。
该优化可能提升 Mamba-2 模型在 Apple Silicon 上的预填充性能,但具体性能提升幅度未在证据中给出。
llama.cpp 持续优化新架构(如 Mamba-2)的推理性能,表明开源社区对状态空间模型的关注度提升。
该优化可能降低 Mamba-2 模型的推理成本,提升开发者体验,但商业影响尚不明确。
未来可能看到更多针对 Mamba-2 的优化,以及相关性能基准测试的发布。