NVIDIA Technical Blog：Agentic AI / Generative AI·· 23 天前AI 评分47
NVIDIA TensorRT Edge-LLM 在 Jetson AGX Thor 上以 6.4 倍速度完成 MLPerf Edge Agentic 基准测试
TensorRT Edge-LLM Completes the MLPerf Edge Agentic Benchmark 6.4x Faster on Jetson AGX Thor
AI 导读
NVIDIA TensorRT Edge-LLM 在单台 Jetson AGX Thor 开发者套件上运行 Qwen3.6-27B，以 52.33 tokens/s 完成 MLPerf Inference v6.1 Edge Agentic 性能负载全部 1。
整理与数据来源：AIHOT
来源：NVIDIA Technical Blog：Agentic AI / Generative AI · developer.nvidia.com