OpenAI 将提示词缓存时间延长至 12 小时

OpenAI 将提示词缓存时间延长至 12 小时

10 月 20 日,OpenAI 宣布在 Responses API 中新增 12 小时提示词缓存选项,适用于 GPT-5.6 及后续支持的模型。

开发者现在可以在默认的 30 分钟和 12 小时缓存期限之间选择。对于需要长时间运行的 AI Agent,重复使用的指令、工具定义和上下文可以保留更久,减少重复计算。

不过,12 小时缓存的写入费用为普通输入 Token 价格的 2.5 倍,高于默认 30 分钟缓存的 1.25 倍。缓存读取仍享受折扣,实际是否划算取决于重复调用频率。

来源

0 评论

发表评论

您是本站第101515名访客 今日有31篇新文章/评论