跳到正文
原文
Hacker News:AI 热帖· nkko·· 9 天前AI 评分50

ESP32S3-LLM-Cluster:7 块 ESP32S3 组成集群运行 1.58-bit BitNet 语言模型

ESP32S3 cluster running 1.58-bit (BitNet) Language model

AI 导读

开源项目 ESP32S3-LLM-Cluster 在 7 块 ESP32S3 上以分布式流水线方式运行 1.58-bit BitNet 量化模型,其中切片后的 0.5B 模型由 1 块主节点加 6 块计算节点分担。

整理与数据来源:AIHOT

来源:Hacker News:AI 热帖 · github.com