2026年7月31日 · llama.cpp
b10204
llama.cpp 发布 b10204 版本,新增 SYCL 支持通过 DEV2DEV_MEMCPY_FORWARD 实现 dev2dev memcpy,由 Neo Zhang Jianyu 贡献。该版本提供多种平台构建选项,包括 macOS(Apple Silicon、Intel)、iOS、Linux(CPU、Vulkan、ROCm、OpenVINO、SYCL)、Android、Windows(CPU、CUDA、Vulkan、OpenVINO、SYCL、HIP)及 openEuler(部分禁用)。
EVENT STORY
发展脉络
- 首次出现b10204llama.cpp
- 当前判断llama.cpp 持续扩展 SYCL 支持,表明跨厂商 GPU 兼容性成为开源推理框架的重要方向,可能影响 Intel 等硬件生态的采用。Agent Pulse · 分析
llama.cpp 发布 b10204 版本,新增 SYCL 设备间内存复制功能,并扩展多平台支持。
该提交引入 DEV2DEV_MEMCPY_FORWARD 宏,可能优化 SYCL 后端在设备间数据传输的效率,但具体性能提升需基准测试验证。
llama.cpp 持续扩展 SYCL 支持,表明跨厂商 GPU 兼容性成为开源推理框架的重要方向,可能影响 Intel 等硬件生态的采用。
增强 SYCL 支持可能吸引 Intel GPU 用户,扩大 llama.cpp 在异构计算场景的适用性,但商业影响需观察实际采用率。
后续版本可能进一步优化 SYCL 后端性能,或增加更多设备间操作支持,可关注相关基准测试结果。