İçindekiler
OpenAI, "28 günün 16. günü" başlığı altında duyurduğu güncellemeyle Responses API'ye 12 saatlik prompt önbelleği seçeneği ekledi. Varsayılan süre 30 dakika olarak kalıyor; 12 saat isteyen geliştiriciler istek gövdesindeki prompt_cache_options.ttl alanını "12h" yapıyor. Aynı güncellemede Codex ve ChatGPT Work oturum açmış kullanıcılar için sohbet önbelleği süresiz hale getirildi.
Ne değişti?
Önbellek, tekrar eden bir prompt önekinin yeniden işlenmeden okunmasını sağlıyor. Yeni seçenekle sabit talimatlar, referans dokümanlar ve araç tanımları 12 saate kadar önbellekte tutulabiliyor. Bu, gün içinde saatler arayla aynı bağlamla çalışan ajanlar için önemli: bağlam her seferinde sıfırdan işlenmiyor.
Kurallar net: yalnızca GPT-5.6 ve sonrası modeller, yalnızca Responses API. Önbelleğe alınacak önekte en az 1.024 görünür giriş token'ı bulunması gerekiyor. Geçersiz TTL değeri 400 invalid_request_error döndürüyor. Eski modellerde ayrı bir prompt_cache_retention parametresi kullanılmaya devam ediyor.
Maliyet tarafı: yazma 2,5 kat
İşin asıl ayrıntısı fiyatta. 30 dakikalık önbellek yazması normal giriş fiyatının 1,25 katı; 12 saatlik yazma ise 2,5 katı. Okuma aynı kalıyor: giriş fiyatının 0,1 katı, gpt-6.1-sol modelinde 0,05 katı. Yani 12 saat, her şeyi ucuza getiren bir anahtar değil; yalnızca aynı önek saatler sonra tekrar kullanılacaksa kazandırıyor.
OpenAI'ın fiyat tablosunda gpt-6.1-sol standart katmanda milyon token başına 2 dolar giriş, 0,10 dolar önbellekten okuma, 2,50 dolar 30 dakikalık yazma, 5 dolar 12 saatlik yazma olarak görünüyor. 30 dakikalık bir kaydı 12 saate yükseltmek, önceki yazma için kredi verilmeden yeni bir 12 saatlik yazma ücreti doğuruyor.
Codex ve Work tarafı
Codex ve ChatGPT Work'te oturum açmış kullanıcılar için önbellek süresiz tutuluyor; birkaç saat sonra eski konuşmaya dönmek kullanım limitlerinde ceza doğurmuyor. OpenAI tarafındaki ifadeye göre bu kullanıcılar önbellek isabetini garanti ediyor. Pratikte bu, uzun kodlama oturumlarında 400 bin token'lık bağlamın süresi dolduğu için baştan işlenmesi sorununu ortadan kaldırıyor.
12 saat ne zaman mantıklı?
Karar kuralı basit: aynı önek gün içinde en az üç kez ve aralarında yarım saatten fazla boşlukla dönüyorsa 12 saat kazandırıyor. Her istekte değişen içerik ya da bir kez okunup atılacak metinler için 12 saatlik yazma ücreti zarar yazıyor. Ayrıca TTL bir silme tarihi değil, asgari ömür: OpenAI kayıtları daha uzun tutabiliyor ve veri saklama politikası değişmiyor.
Doğru kurulum: istek değil, kırılma noktası
TTL'i istek düzeyinde vermek, örtük kırılma noktasına da uygulanıyor; bu da her turda yeni yazılan token'ların 2,5 kat üzerinden faturalanması demek. Daha güvenli yol, 12 saatlik TTL'i yalnızca gün boyu tekrar kullanılan malzemenin sonundaki açık bir kırılma noktasına koymak, sık değişen konuşma bağlamını ise 30 dakikada bırakmak.
Önbellek isabeti garanti değil
Belgelenen ayrıntı önemli: 12 saatlik TTL, önbellek okuması için uygunluk anlamına geliyor, her istekte isabet garantisi vermiyor. Eşleşen bağlam, arama sınırları, yönlendirme ve bölgesel sınırlar sonucu hâlâ belirliyor. Yani aynı öneki göndermek tek başına yetmiyor; isteğin aynı uç nokta ve bölge üzerinden gitmesi de gerekiyor.
Ajan iş yüklerinde etkisi
OpenAI'ın Agents API'si yönetilen Codex altyapısını sunuyor ve model çağrıları Responses API ile aynı önbellek davranışını kullanıyor. Kalıcı oturumlar yeniden kullanılabilir bir önek tutabiliyor, ancak oturumun kendisi isabet garanti etmiyor. Uzun soluklu ajanlarda maliyet hesabı yaparken önbellek yazma ücretini de toplam maliyete eklemek gerekiyor.
Özet
- API'de 12 saatlik önbellek seçeneği geldi, varsayılan 30 dakika.
- 12 saatlik yazma normal girişin 2,5 katı; okuma fiyatı değişmedi.
- Yalnızca GPT-5.6 ve sonrası, yalnızca Responses API; en az 1.024 token önek şartı var.
- Codex ve ChatGPT Work'te oturum açmış kullanıcılar için önbellek süresiz.