Aug 23, 2026 · llama.cpp
b10603
llama.cpp 发布 b10603 版本，支持 GLM-4.5-Air 模型中的 MTP（Multi-Token Prediction）功能。该版本提供多种平台构建，包括 macOS、Linux、Windows、Android 等，并支持多种后端如 Vulkan、CUDA、ROCm、OpenVINO、SYCL 等。
EVENT STORY
Development
- First Reportb10603llama.cpp
- Current Assessmentllama.cpp 持续集成新模型特性，反映开源推理生态对前沿模型能力的快速适配。可验证的下一信号是其他推理框架（如 vLLM）对 GLM-4.5-Air MTP 的支持情况。Agent Pulse · analysis
llama.cpp 在 b10603 版本中新增对 GLM-4.5-Air 模型 MTP 的支持，并扩展了多平台和多后端的构建选项。
MTP 支持可能提升推理吞吐量，但具体性能提升未在证据中量化。可验证的下一信号是 llama.cpp 后续版本中 MTP 的默认启用或相关基准测试发布。
llama.cpp 持续集成新模型特性，反映开源推理生态对前沿模型能力的快速适配。可验证的下一信号是其他推理框架（如 vLLM）对 GLM-4.5-Air MTP 的支持情况。
该更新增强了 llama.cpp 的竞争力，可能吸引更多开发者使用，并促进相关商业服务（如云推理）的采用。可验证的下一信号是 llama.cpp 的下载量或相关商业产品的引用。
MTP 可能在开源推理框架中成为标准特性，推动端侧和边缘部署的效率提升。可验证的下一信号是 GLM-4.5-Air 在端侧设备上的实际应用案例。