HuggingFace Daily Papers(社区热门论文)·· 15 天前AI 评分53
Hunyuan-A13B 技术报告发布:80B 总参数、13B 激活的开源 MoE 模型
Hunyuan-A13B Technical Report
AI 导读
腾讯混元发布开源 MoE 大语言模型 Hunyuan-A13B,总参数 80B、推理仅激活 13B,以平衡能力、效率与部署成本。模型在经严格筛选的 20T token 语料上预训练并加强 STEM 数据,再经 SFT 和大规模强化学习;引入双模式 Chain-of-Thought 框架,简单问题用快思考、复杂多步问题用慢思考。
整理与数据来源:AIHOT
来源:HuggingFace Daily Papers(社区热门论文) · arxiv.org