公众号：百度智能云（文心）· 百度智能云·· 16 天前AI 评分29
百度百舸联合 SGLang 举办 Meetup：推理基础设施如何支撑 Agent 规模化落地
百度百舸Meetup在京举办，推理基础设施助力Agent规模化落地
AI 导读
百度智能云联合 SGLang 社区于 9 月 22 日举办“Agent 时代的推理基础设施”Meetup，围绕多芯适配、上下文缓存、KV Cache 优化、显存优化、MoE 专家压缩和推理服务治理展开生产级实践分享。
整理与数据来源：AIHOT
来源：公众号：百度智能云（文心） · mp.weixin.qq.com