Apple 提出 probe guidance：用冻结内部状态引导扩散语言模型

Apple 提出 probe guidance，利用现有扩散模型冻结的内部状态构建引导信号，无需在推理时增加额外前向计算，即可让弱模型与强模型保持相近动态。该方法在连续扩散语言模型的无条件生成上取得新的 SOTA，应用于 1.7B 扩散语言模型时在多项选择题基准上持续提升。研究还发现，传统 autoguidance 中的弱模型必须来自训练的低熵区域。