Transformer 能同时容纳两种思路：LLM 中线性叠加的证据

研究提出「叠加线性假设」，证明 Transformer 对来自不同文本流的输入做线性组合时，输出是各自下一 token 分布的叠加，且该性质是架构固有而非训练涌现，并随预训练推进而减弱。轻量微调可显著恢复这种线性，缩小预测分布与各分布均值的偏差。团队还提出引导式解码，从单次前向传播中解耦叠加输出，同时生成两条连贯续写。