AGENT PULSEAI Industry Evidence & Trends
Star235
Aug 13, 2026 · llama.cpp

b10405

What Happened

llama.cpp 发布 b10405 版本,移除 ggml-hip 中的 -funsafe-math-optimizations 编译选项,该选项启用 -fassociative-math,会重关联浮点归约,可能导致 RDNA3.5 上贪心 argmax 结果翻转(如 MTP 推测解码与非推测基线产生分歧)。移除后 HIP 构建符合 IEEE 标准。该版本同时列出多平台构建状态,包括 macOS、Linux、Windows、Android 等,部分平台标记为 DISABLED。

EVENT STORY

Development

  1. First Reportb10405llama.cpp
  2. Current Assessment该改动反映了开源推理框架对硬件特定浮点行为的关注,可能影响 AMD GPU 上的推理可靠性,未来可观察其他框架是否跟进类似调整。Agent Pulse · analysis
What Changed

llama.cpp 在 b10405 版本中移除了 HIP 构建的 -funsafe-math-optimizations 选项,以确保浮点运算符合 IEEE 标准,避免在 RDNA3.5 上因浮点重关联导致的推测解码结果不一致。

How the Capability Boundary Shifted

移除 -fassociative-math 表明浮点运算的确定性对推测解码等场景至关重要,未来可关注 HIP 构建在 RDNA3.5 上的推理一致性测试结果。

Why It Matters

该改动反映了开源推理框架对硬件特定浮点行为的关注,可能影响 AMD GPU 上的推理可靠性,未来可观察其他框架是否跟进类似调整。

Who It Affects

对于依赖 AMD GPU 推理的用户,该修复可提升结果可复现性,降低调试成本,增强 llama.cpp 在 AMD 生态的可靠性。

What to Watch Next

可验证信号:后续版本中 HIP 构建的默认选项是否保持 IEEE 合规,以及 RDNA3.5 上 MTP 推测解码的基准测试结果是否与基线一致。