AGENT PULSEAI 行业证据与趋势
Star235
2026年8月20日 · llama.cpp

b10514

发生了什么

llama.cpp 发布 b10514 版本,新增 GraniteSWAForCausalLM 和 GraniteMoeSWAForCausalLM 模型转换支持,包括 rope_pattern 数组转换基础设施、SWA 模式逻辑修复、非 rope 层支持,以及 llama_hparams 的 has_rope 和架构常量。

EVENT STORY

发展脉络

  1. 首次出现b10514llama.cpp
  2. 当前判断llama.cpp 持续扩展模型架构支持,反映开源推理生态对多样化注意力机制的需求。Agent Pulse · 分析
改变了什么

llama.cpp 在 b10514 版本中为 Granite 系列模型添加了 SWA(滑动窗口注意力)支持,涵盖转换、推理和架构常量,由 Gabe Goodhart 提交,AI 辅助编码。

能力边界怎么变了

该版本为 GraniteSWA 和 GraniteMoeSWA 模型提供转换支持,涉及 rope_pattern 数组和 has_rope 常量,可能影响推理性能与兼容性。

为什么重要

llama.cpp 持续扩展模型架构支持,反映开源推理生态对多样化注意力机制的需求。

对谁有影响

增强 llama.cpp 对 IBM Granite 模型的支持,降低企业部署成本,提升开源生态吸引力。

接下来观察

后续可能合并 Granite Speech 相关工作,并优化 SWA 推理效率。