跳到正文
原文
Rohan Paul· @rohanpaul_ai · X·· 2026-09-04AI 评分44
AI 导读

斯坦福等机构的论文 Prefix Sliding for efficient test-time scaling 提出,推理时只保留任务前缀和最近 token 的滑动窗口、丢弃中间推理 token,无需重训即可让推理提速约 3 倍。

整理与数据来源:AIHOT

来源:Rohan Paul · x.com