Aug 20, 2026 · llama.cpp
b10509
llama.cpp 发布 b10509 版本,新增 ggml_rope_set_offset 算子,并支持 Metal、CUDA、Vulkan 后端,同时提供多种平台构建。
EVENT STORY
Development
- First Reportb10509llama.cpp
- Current Assessmentllama.cpp 持续扩展后端支持,反映开源推理生态对多硬件适配的重视。Agent Pulse · analysis
llama.cpp 在 b10509 版本中为 ggml_rope_set_offset 算子添加了 Metal、CUDA 和 Vulkan 后端支持,并更新了各平台的构建选项。
该算子可能用于旋转位置编码的偏移设置,多后端支持表明其通用性,但具体用途需进一步验证。
llama.cpp 持续扩展后端支持,反映开源推理生态对多硬件适配的重视。
增强 llama.cpp 的跨平台兼容性,可能吸引更多开发者使用,但商业影响有限。
后续可能看到更多后端(如 OpenCL、SYCL)对该算子的支持,或相关模型应用。