跳到正文
原文
MarkTechPost(RSS)· Asif Razzaq·· 12 天前AI 评分55

Liquid AI 发布 LFM2.5-VL-3B-DSpark 投机解码草稿模型,解码最高提速 3.13 倍

Liquid AI Releases LFM2.5-VL-3B-DSpark: Speculative Decoding for Vision-Language Models With Up to 3.13x Faster Decoding

AI 导读

Liquid AI 发布 LFM2.5-VL-3B-DSpark,一个为其视觉语言模型 LFM2.5-VL-3B 设计的实验性投机解码草稿模型,新增约 279.5M 参数(+8.9%),在 Apple silicon 上解码最高提速 3.13 倍,NVIDIA H100 上最高 2.66 倍。

整理与数据来源:AIHOT

来源:MarkTechPost(RSS) · marktechpost.com