跳到正文
原文
OpenAI News·· 2024-10-01AI 评分58

OpenAI 在 API 中推出提示词缓存

Prompt Caching in the API

AI 导读

OpenAI 在 API 中推出提示词缓存(Prompt Caching),对模型近期已见过的输入自动提供折扣。官方说明该机制为自动生效,无需额外配置。

来源:OpenAI News · openai.com