SemiAnalysis 长文 RSS(RSS)· Bryan Shan·· 23 天前AI 评分66
SemiAnalysis 实测 Vera Rubin NVL72 智能体推理 性能每美元最高达 GB300 约 67 倍
Vera Rubin NVL72 Agentic Inference: 67x better Performance per Dollar
AI 导读
SemiAnalysis 用自有 AgentX 基准发布 Rubin 平台的首批智能体推理实测结果,在 170 TPS、TRTLLM NVFP4 场景下,Vera Rubin NVL72 单位 TCO 总吞吐约为 GB300 Dynamo TRTLLM 的 67 倍,在 60-100 TPS 常用区间为 1.4-3 倍。
整理与数据来源:AIHOT
来源:SemiAnalysis 长文 RSS(RSS) · newsletter.semianalysis.com