Dongxi 东锡 NLP· @dongxi_nlp · X·2026-09-15 12:16· 23 天前AI 评分62AI 导读文章讲解大模型推理的 prefill 与 decode 两个阶段:prefill 并行处理给定输入,决定 TTFT;decode 逐 token 自回归生成,常受内存带宽限制。整理与数据来源:AIHOT来源:Dongxi 东锡 NLP · x.com#推理#教程/实践#部署/工程