跳到正文
原文
Rohan Paul· @rohanpaul_ai · X·· 15 天前AI 评分54
AI 导读

OpenAI 为 GPT-6 的提示词缓存带来更高命中率、诊断工具、断点、预热和保留缓存的推理变更。缓存复用可将缓存输入 token 成本降低最多 90%,新仪表盘展示缓存命中率及缓存与未缓存 token 量。作者指出高命中率仍是应用设计问题,开发者需让长时运行智能体的稳定指令和工具保持可复用。

整理与数据来源:AIHOT

来源:Rohan Paul · x.com