Skip to main content
缓存 LLM 调用 对于测试、成本节约和速度提升都很有帮助。 以下是一些集成方案,允许您使用不同的缓存和策略来缓存单个 LLM 调用的结果。

Azure Cosmos DB NoSQL 语义缓存