跳到正文
原文
SemiAnalysis 长文 RSS(RSS)· Bryan Shan·· 20 天前AI 评分58

SemiAnalysis 实测 DeepSeek-V4.1-Flash 的 Engram:架构如何围绕 HBM 约束做 DRAM/SSD 卸载

Engrams Embedding Entendre: Codesign for Efficient DRAM/SSD Offloading

AI 导读

SemiAnalysis 分析 Engram 架构(在标准 token 嵌入上扩展学习式多 token 查找)如何通过协同设计将嵌入表卸载到主存 DRAM 或 SSD,在同等质量下降低模型所需的 HBM 容量。

整理与数据来源:AIHOT

来源:SemiAnalysis 长文 RSS(RSS) · newsletter.semianalysis.com