跳到正文
原文
OpenAI News·· 12 天前精选AI 评分42

OpenAI 为 GPT-6 改进 prompt caching

Better prompt caching for GPT-6

AI 导读

OpenAI 宣布 GPT-6 改进了 prompt caching,带来更高的缓存命中率、新的诊断能力、显式断点以及可降低延迟和成本的控制项。原文未给出具体命中率、延迟或成本数字。

来源:OpenAI News · openai.com