跳到正文
原文
MarkTechPost(RSS)· Michal Sutter·· 27 天前AI 评分61

Redis LangCache 公测发布:语义缓存可降 LLM API 成本至多 90%,命中提速至多 15x

Meet Redis LangCache: A Managed Semantic Cache That Cuts LLM API Costs by Up to 90% and Returns Cache Hits Up to 15x Faster

AI 导读

Redis 发布全托管语义缓存服务 LangCache,现已在 Redis Cloud 以公开预览形式提供,通过 REST API 及 Python、JavaScript SDK 接入。

整理与数据来源:AIHOT

来源:MarkTechPost(RSS) · marktechpost.com