搜索技巧 海洋云增白 开源地图 AI 搜索答案 沙丘魔堡2 压缩机站 自由职业 policy 小团队 颈挂空调 Chumby 个人电脑 极端主义 团队 PostgreSQL AI工具 证券 DirectX DrawingPics 化学 KDE 披萨农场 多动症 植物学 分析化学 Three.js 大会 残疾人学校 初创 QB64 更多

Anthropic 推出 Prompt Caching (测试版) (docs.anthropic.com)

Anthropic 推出了一项名为 Prompt Caching 的新功能,允许用户在提示词中从特定前缀恢复,从而优化 API 使用,显著减少重复任务或包含一致元素的提示词的处理时间和成本。Prompt Caching 目前支持 Claude 3.5 Sonnet 和 Claude 3.0 Haiku 模型,并将很快支持 Claude 3.0 Opus。缓存时长为 5 分钟,每次使用缓存内容时都会刷新。