跳到正文
原文
OpenBMB· @OpenBMB · X·· 14 天前AI 评分46
AI 导读

FIT-GGUF 为 MiniCPM5-2B 提供可控尺寸的混合精度量化,用户可设定目标文件大小或保真度档位,由工具自动分配各张量精度并预测、生成、验证最终 GGUF。

整理与数据来源:AIHOT

来源:OpenBMB · x.com