使用 Anthropic 缓存控制来选择 AI 规则

使用缓存控制要便宜得多,但我们使用的 npm 库尚未完全支持它: 1. 缓存工具不受支持: https://GitHub.com/Vercel/ai/issues/3820 2. 缓存令牌的使用未返回: https://GitHub.com/Vercel/ai/issues/4335 3. Bedrock SDK 尚未支持它: https://GitHub.com/anthropics/Anthropic-sdk-TypeScript/issues/507 如果我们现在想要实现此功能,可能需要手动实现: https://docs.Anthropic.com/en/docs/build-with-Claude/prompt-caching 或向上述库提交 PR。 我们只会在一个 ai 调用("选择规则")中使用它,尽管我们使用它的次数很多,因此可以节省大量成本。 以下是 WIP PR: https://GitHub.com/elie222/inbox-zero/tree/Anthropic-cache-control