Grok 4.7 Amazon Bedrock'a Geldi: Uzun Soluklu Ajanlar İçin Muhakeme Düzeyi
Grok

Grok 4.7 Amazon Bedrock'a Geldi: Uzun Soluklu Ajanlar İçin Muhakeme Düzeyi

· 3 DK

Yazar: KOZBA

İçindekiler
  1. Muhakeme düzeyi ayarı
  2. Test sonuçları: xhigh tam isabet, low ucuz
  3. SpaceXAI'nin açıkladığı kıyaslama artışları
  4. Teknik erişim
  5. Üretimde izleme
  6. Görevler neden zor seçildi?
  7. Hangi durumda hangi düzey?
  8. Rakamlarla özet
  9. Sonuç

SpaceXAI'nin Grok 4.7 modeli artık Amazon Bedrock'ta kullanılabiliyor. AWS'ye göre model, daha zor görevler üzerinde daha uzun süre çalışacak ve kendi işini ne zaman kontrol etmesi gerektiğini bilecek şekilde eğitildi. Bu özellik en çok, bir görevi onlarca adım boyunca sürdürmesi ve bulduğu şeyleri doğrulaması gereken ajanlar için önem taşıyor.

Muhakeme düzeyi ayarı

Grok 4.7, her yanıttan önce ne kadar düşünüleceğini kontrol eden bir "reasoning effort" ayarı sunuyor: low, medium, high ve xhigh. AWS ekibi, üç farklı görev üzerinde her düzeyde altı çalıştırma yaparak toplam 72 ajan çalıştırması gerçekleştirdi. Ajan bu 72 çalıştırmanın 67'sini doğru yanıtladı.

Test sonuçları: xhigh tam isabet, low ucuz

xhigh düzeyinde 18 çalıştırmanın tamamı doğru yanıtlandı. low düzeyinde ise 18 çalıştırmanın 15'i doğru çıktı, ancak çıktı tokenlarının yaklaşık sekizde biri kullanıldı. Ortalama çıktı tokenı low düzeyinde 1.184 iken xhigh düzeyinde 9.147'ye çıktı, yani yaklaşık 7,7 kat. Ortalama çalışma süresi 18 saniyeden 106 saniyeye yükseldi. Araç çağrıları ise her düzeyde neredeyse sabit kaldı; muhakeme düzeyi ajanın ne kadar keşif yaptığını değil, bulduğu veriler üzerinde ne kadar akıl yürüttüğünü değiştiriyor.

SpaceXAI'nin açıkladığı kıyaslama artışları

SpaceXAI'nin yayınladığı sonuçlara göre en büyük kazanımlar tek turluk yanıtlar yerine sürdürülen çalışmayı ölçen kategorilerde: Terminal-Bench 4.0'da %20,3'ten %37,6'ya, EEBench'te %53'ten %64'e, Harvey Legal Agent Benchmark'ta %15,8'den %19,6'ya, CursorBench 4.0'da %40,4'ten %46,3'e ve HealthBench Professional'da %48,5'ten %56,7'ye. AA Briefcase v1.1 skoru da 1.546'dan 1.657'ye çıktı.

Teknik erişim

Grok 4.7, 500K token bağlam penceresiyle metin ve görsel girdi, metin çıktı sunuyor. Amazon Bedrock'ta bölgeler arası çıkarım profilleri üzerinden erişiliyor: us.xai.grok-4.7 (ABD veri ikametgahı gereksinimleri için) ve global.xai.grok-4.7 (en geniş kapasite için). Model, OpenAI uyumlu Chat Completions ve Responses API'lerini ve Amazon Bedrock Converse API'sini destekliyor.

Üretimde izleme

Üretimde bilinen bir doğru yanıt olmadığı için AWS, çıktı tokenı ve araç çağrısı sayısını operasyonel sinyal olarak kullanmayı öneriyor. Doğru çalıştırmalar her düzeyde belirgin bir muhakeme hacminin üzerinde kalıyor; beklenenden çok az çıktı üreten veya hiç araç çağırmayan bir çalıştırma inceleme için işaretlenebiliyor.

Görevler neden zor seçildi?

AWS ekibi, testleri kasıtlı olarak "arama" gerektiren görevler üzerine kurdu. Basit bir kayıt okuma, filtreleme veya toplama görevi yalnızca titizliği ölçer; muhakeme düzeyinin katkısını görmek için yanıtın veriden doğrudan okunamayacağı, önce önerilip sonra doğrulanması gereken görevler gerekiyordu. Üç görevin her birinin tek bir doğru yanıtı var ve bu yanıtlar kaba kuvvetle doğrulandı.

Hangi durumda hangi düzey?

AWS, sonuçlara dayanarak birkaç pratik kural öneriyor: Bir ajanın birden çok aday yanıtı birbirine karşı tartması gerektiğinde ek muhakeme en değerli hale geliyor. Optimizasyon, hipotez testi ve kısıt memnuniyeti gerektiren görevlerde orta ve üzeri düzeyler belirgin biçimde öne çıkıyor. İşlem maliyetini düşürmek isteyen ekipler için Flex ve Priority hizmet katmanları istek başına seçilebiliyor; böylece bir dağıtım gece boyu süren analizi Flex'ten, etkileşimli isteği Priority'den gönderebiliyor.

Rakamlarla özet

72 çalıştırmanın 67'si doğru: xhigh 18/18, medium ve high 17/18, low 15/18. Ortalama çıktı tokenı low düzeyinde 1.184, xhigh düzeyinde 9.147, yani 7,7 kat. Medyan çalışma süresi 18 ila 106 saniye arasında. Model 500K token bağlam penceresi sunuyor ve araç çağrısı sayısı her muhakeme düzeyinde 17-19 bandında sabit kalıyor.

Sonuç

Grok 4.7, uzun soluklu ajan iş yüklerinde muhakeme düzeyini istek başına ayarlama esnekliği sunuyor. Her yanıtın ilk seferde doğru olması gereken işlerde yüksek düzeyler güvenli varsayılan; biraz daha düşük başarı oranının kabul edilebilir olduğu ya da yanıtların sonradan incelendiği durumlarda low düzeyi verimli bir seçenek. Fiyatlar ve desteklenen bölgeler değişebileceği için Amazon Bedrock fiyatlandırma sayfasını kontrol edin.

Paylaş