OpenAI News·· 7 天前精选AI 评分60
GPT-6 改进提示词缓存机制
Better prompt caching for GPT-6
AI 导读
OpenAI 介绍了 GPT-6 在提示词缓存（prompt caching）上的优化机制，旨在降低推理延迟与成本。该更新支持更高的缓存命中率，并引入了全新诊断工具、显式断点以及精细控制能力。
推荐理由
材料指出了 GPT-6 提示词缓存的命中率优化与显式断点控制，有助于开发者降低调用延迟与成本。
来源：OpenAI News · openai.com