SemiAnalysis 长文 RSS(RSS)· Bryan Shan·· 20 天前AI 评分58
SemiAnalysis 实测 DeepSeek-V4.1-Flash 的 Engram:架构如何围绕 HBM 约束做 DRAM/SSD 卸载
Engrams Embedding Entendre: Codesign for Efficient DRAM/SSD Offloading
AI 导读
SemiAnalysis 分析 Engram 架构(在标准 token 嵌入上扩展学习式多 token 查找)如何通过协同设计将嵌入表卸载到主存 DRAM 或 SSD,在同等质量下降低模型所需的 HBM 容量。
整理与数据来源:AIHOT
来源:SemiAnalysis 长文 RSS(RSS) · newsletter.semianalysis.com