跳到正文
原文
HuggingFace Daily Papers(社区热门论文)·· 15 天前AI 评分53

Hunyuan-A13B 技术报告发布:80B 总参数、13B 激活的开源 MoE 模型

Hunyuan-A13B Technical Report

AI 导读

腾讯混元发布开源 MoE 大语言模型 Hunyuan-A13B,总参数 80B、推理仅激活 13B,以平衡能力、效率与部署成本。模型在经严格筛选的 20T token 语料上预训练并加强 STEM 数据,再经 SFT 和大规模强化学习;引入双模式 Chain-of-Thought 框架,简单问题用快思考、复杂多步问题用慢思考。

整理与数据来源:AIHOT

来源:HuggingFace Daily Papers(社区热门论文) · arxiv.org