跳到正文
原文
SemiAnalysis 长文 RSS(RSS)· Bryan Shan·· 23 天前AI 评分66

SemiAnalysis 实测 Vera Rubin NVL72 智能体推理 性能每美元最高达 GB300 约 67 倍

Vera Rubin NVL72 Agentic Inference: 67x better Performance per Dollar

AI 导读

SemiAnalysis 用自有 AgentX 基准发布 Rubin 平台的首批智能体推理实测结果,在 170 TPS、TRTLLM NVFP4 场景下,Vera Rubin NVL72 单位 TCO 总吞吐约为 GB300 Dynamo TRTLLM 的 67 倍,在 60-100 TPS 常用区间为 1.4-3 倍。

整理与数据来源:AIHOT

来源:SemiAnalysis 长文 RSS(RSS) · newsletter.semianalysis.com