b10456
llama.cpp 发布 b10456 版本，修复 SYCL 后端量化拷贝内核的线程/块数量，使其与量化大小成比例，减少过度/不足订阅。在 Arc 70 上，q4_0 到 f32 路径的吞吐量从 20.21 GB/s 提升到 158.19 GB/s，其余量化类型性能提升持平。该版本同时提供多平台构建，包括 macOS、Linux、Windows、Android 等，部分平台（如 macOS Intel、ROCm 7.14、openEuler）标记为 DISABLED。
Development
- First Reportb10456llama.cpp
- Current Assessment该修复针对 SYCL 后端，表明跨平台 GPU 推理优化仍是行业重点，尤其是在 Intel 硬件上。性能提升可能增强 llama.cpp 在 Intel 平台上的竞争力，但其他量化类型性能持平，说明优化具有路径特异性。可验证的下一信号是其他后端（如 Vulkan、CUDA）是否出现类似优化，以及 SYCL 在更多模型和硬件上的性能对比。Agent Pulse · analysis
llama.cpp 在 2026 年 8 月 17 日发布 b10456 版本，针对 SYCL 后端的量化拷贝内核进行了线程/块数量调整，使其与量化大小成比例，从而优化资源利用。在 Arc 70 上，q4_0 到 f32 路径的吞吐量从 20.21 GB/s 提升至 158.19 GB/s，性能提升显著，其他量化类型性能持平。该版本还更新了多平台构建支持，部分平台被禁用。
该修复通过调整线程/块数量与量化大小成比例，减少了过度或不足订阅，表明 SYCL 后端在资源调度上存在优化空间。q4_0 到 f32 路径的吞吐量提升约 7.8 倍，暗示该路径此前存在严重的资源利用不足。可验证的下一信号是其他量化路径是否在后续版本中获得类似优化，以及 SYCL 后端在更多硬件上的性能表现。
该修复针对 SYCL 后端，表明跨平台 GPU 推理优化仍是行业重点，尤其是在 Intel 硬件上。性能提升可能增强 llama.cpp 在 Intel 平台上的竞争力，但其他量化类型性能持平，说明优化具有路径特异性。可验证的下一信号是其他后端（如 Vulkan、CUDA）是否出现类似优化，以及 SYCL 在更多模型和硬件上的性能对比。
性能提升可能降低推理成本，增强 llama.cpp 在 Intel 硬件上的吸引力，对依赖该平台的开发者有利。但影响范围有限，因为其他量化类型性能持平，且部分平台被禁用。可验证的下一信号是社区采用情况和相关商业产品的性能宣传。
该修复可能推动 SYCL 后端在更多场景中的应用，尤其是在 Intel 硬件上。未来可能看到更多针对特定量化路径的优化，以及跨平台性能的进一步平衡。可验证的下一信号是后续版本是否扩展优化到其他量化类型，以及 SYCL 后端在主流 GPU 上的性能基准。