2026年8月7日 · llama.cpp
b10299
llama.cpp 发布 b10299 版本，修复了 MSL 中 threadgroup matrix 数组实例化导致的编译错误。修复方式是将 threadgroup half4x4 数组改为 POD threadgroup half 数组，并转换为 threadgroup half4x4 * 进行矩阵索引。该版本支持 macOS Apple Silicon (arm64)、Linux Ubuntu x64 (CPU)、Android arm64 (CPU)、Windows x64 (CPU) 等多种平台。
EVENT STORY
发展脉络
- 首次出现b10299llama.cpp
- 当前判断llama.cpp 持续迭代底层 kernel 以适配不同 GPU 后端，反映开源推理框架对多平台兼容性的重视。Agent Pulse · 分析
llama.cpp 在 b10299 版本中修复了 Metal Shading Language (MSL) 下 threadgroup matrix 数组实例化导致的编译错误，通过改用 POD 数组并转换指针的方式解决，同时更新了多平台支持列表。
该修复针对 MSL 中矩阵类型缺少零参数默认构造函数的问题，采用 POD 数组加指针转换的变通方案，可能影响 kernel_lightning_indexer 在 Apple Silicon 上的性能或兼容性。
llama.cpp 持续迭代底层 kernel 以适配不同 GPU 后端，反映开源推理框架对多平台兼容性的重视。
该修复提升了 llama.cpp 在 Apple 平台上的稳定性，有助于维持其在本地推理工具链中的竞争力。
后续版本可能进一步优化 MSL 矩阵操作或引入更直接的构造方式，可关注 kernel_lightning_indexer 相关性能测试。