OpenAI、GPT-6向けprompt cachingの監視と診断を強化
OpenAIはGPT-6 familyのprompt caching改善を発表しました。30分以内に再利用されるeligible shared prefixesへcache discountを適用し、dashboard、diagnostics、explicit breakpointsを提供します。
公式発表を読むOpenAIはGPT-6 familyのprompt caching改善を発表しました。30分以内に再利用されるeligible shared prefixesへcache discountを適用し、dashboard、diagnostics、explicit breakpointsを提供します。
公式発表を読む