跳到正文
原文
Hacker News 热门(buzzing.cc 中文翻译)· JonSchneider·· 20 天前AI 评分70

PrismML 发布 Ternary Bonsai 2 27B:体积缩小 9 倍以上,保留 98.2% 基准性能

Bonsai 2 27B:占用空间缩小至原来的 1/9,同时实现近无损压缩

AI 导读

PrismML 发布 Ternary Bonsai 2 27B,基于 Qwen3.8 27B,采用三值权重加 FP16 分组缩放,有效每权重 1.76 bit,模型体积 5.9GB,比全精度模型小 9 倍以上,基准综合得分 83.9,保留全精度模型 98.2% 的性能。

整理与数据来源:AIHOT

来源:Hacker News 热门(buzzing.cc 中文翻译) · prismml.com