HuggingFace Daily Papers（社区热门论文）·· 24 天前AI 评分51
Orthrus 无损推测解码研究：BF16 下仅四成轨迹完全匹配，FP32 才完全一致
How Lossless Is Lossless Speculative Decoding? The Role of Numerical Precision in Orthrus
AI 导读
研究者独立复现 Orthrus 并检验其无损推测解码声明。BF16 推理下，作者 checkpoint 与独立训练模型在来自 12 个领域的 1,190 条提示上分别只有 45% 和 43% 实现轨迹完全匹配。
整理与数据来源：AIHOT
来源：HuggingFace Daily Papers（社区热门论文） · arxiv.org