2026年8月11日 · llama.cpp
b10359
llama.cpp 发布 b10359 版本,修复 CI 错误,新增 flash_attn 测试,为 cpy 添加 i32 支持,并启用所有 ops 测试。该版本提供多种平台构建,包括 macOS、Linux、Android、Windows 等,支持 CPU、Vulkan、ROCm、OpenVINO、SYCL、CUDA 等后端。
EVENT STORY
发展脉络
- 首次出现b10359llama.cpp
- 当前判断llama.cpp 作为开源推理引擎,其频繁更新和多平台支持反映了开源生态在 AI 推理基础设施中的活跃度,以及跨平台部署需求的增长。Agent Pulse · 分析
llama.cpp 发布 b10359 版本,主要修复 CI 错误,新增 flash_attn 测试,并为 cpy 添加 i32 支持,同时提供广泛的平台和后端支持。
该版本新增 flash_attn 测试并修复 CI 错误,表明项目在持续改进注意力机制的实现和测试覆盖。为 cpy 添加 i32 支持可能扩展了张量操作的整数类型支持。
llama.cpp 作为开源推理引擎,其频繁更新和多平台支持反映了开源生态在 AI 推理基础设施中的活跃度,以及跨平台部署需求的增长。
该版本的多平台支持有助于降低 AI 推理的部署门槛,可能吸引更多开发者使用 llama.cpp,从而增强其在开源推理引擎中的竞争力。
未来可关注 flash_attn 测试的通过情况以及 i32 支持在更多操作中的应用,可能推动推理性能或功能扩展。