跳到正文
原文
Hacker News:AI 热帖· Anon84·· 28 天前AI 评分54

Hugo Vergnes 花费 $998 训练 3.8B 模型 little-lm,CORE 得分 0.384

Training a 3.8B LLM to 0.384 CORE for $998 - Hugo Vergnes

AI 导读

作者 Hugo Vergnes 用租用的 8× B200 在 43 小时内以 $998 训练了 3.8B 参数模型 little-lm,在 65.3B tokens 上达到 CORE 0.384,超过 GPT-2 1.5B 的 0.2565。

整理与数据来源:AIHOT

来源:Hacker News:AI 热帖 · hugovergnes.github.io