QB64 搜索技巧 核手提箱 文字记录 海洋云增白 开源地图 Bliss AI 搜索答案 深海沉船 自由职业 policy 小团队 颈挂空调 Chumby 个人电脑 极端主义 团队 世界 PostgreSQL AI工具 证券 DirectX 防溢 DrawingPics Zulip 儿童读物 化学 连续滚动 代码审查 三菱电机 更多

Anthropic 推出 Prompt Caching (测试版) (docs.anthropic.com)

Anthropic 推出了一项名为 Prompt Caching 的新功能,允许用户在提示词中从特定前缀恢复,从而优化 API 使用,显著减少重复任务或包含一致元素的提示词的处理时间和成本。Prompt Caching 目前支持 Claude 3.5 Sonnet 和 Claude 3.0 Haiku 模型,并将很快支持 Claude 3.0 Opus。缓存时长为 5 分钟,每次使用缓存内容时都会刷新。

评论已经关闭!