Box, NVIDIA Nemotron'u Ürünün Çekirdeğine Aldı: Ajan Aramasında 4 Kat Hız İddiası
NVIDIA

Box, NVIDIA Nemotron'u Ürünün Çekirdeğine Aldı: Ajan Aramasında 4 Kat Hız İddiası

· 4 DK

Yazar: KOZBA

İçindekiler
  1. Box Content Retrieval ne yapıyor?
  2. İddia edilen kazanç
  3. Embedding neden kritik hale geldi?
  4. Somut kullanım: hukuk ekipleri
  5. Kimler kullanabilecek, ne zaman?
  6. Sınırlar ve soru işaretleri
  7. Türkiye'deki kurumsal ekipler için anlamı
  8. Arama hattı nasıl değişiyor?
  9. Ölçüm önerisi
  10. Sonuç

Box, 5 Kasım 2026'daki geliştirici konferansında NVIDIA'nın Nemotron embedding sistemini ürününün çekirdeğine yerleştirdiğini açıkladı. Yeni özelliğin adı Box Content Retrieval. Amaç, yapay zeka ajanlarının şirket içi belgelerden cevap üretirken daha az veriyle daha isabetli sonuç alması.

Box Content Retrieval ne yapıyor?

Sistem, Nemotron'un ürettiği gömülü üst veriyi (embedding) kullanarak belgeleri önceden işliyor. Ajan bir soru sorduğunda, tüm belgeyi okumak yerine yalnızca soruyla en ilgili parçalar geri dönüyor. Box'un CEO'su Aaron Levie bunu şöyle anlatıyor: ajanın her belgeyi baştan sona okuması yerine, sorguya ya da göreve en uygun parçalar gönderiliyor.

İddia edilen kazanç

NVIDIA'nın üretken yapay zeka yazılımından sorumlu başkan yardımcısı Kari Briski, TechCrunch'a beklenen etkiyi rakamlarla verdi:

  • Hız: sorguların 4 kat daha hızlı yanıtlanması.
  • Doğruluk: yüzde 20 daha az hata.
  • Maliyet: yüzde 90 daha az token kullanımı.

Bu üç rakam birbirini besliyor. Token tüketimi düştüğünde hem API faturası hem gecikme azalıyor; daha isabetli parça seçimi ise ajanın yanlış belgeye dayanarak cevap üretme riskini düşürüyor. Ancak bu sayılar tedarikçi tarafından verilen beklenti değerleri; bağımsız ölçüm yayınlanmadı.

Embedding neden kritik hale geldi?

Embedding modelleri, veriyi ajanların daha iyi çalışacağı biçime önceden dönüştürüyor. Uzun süre büyük laboratuvarların gölgesinde kalan bu alan, NVIDIA'nın açık kaynak model projesinin odak noktalarından biri oldu. Şirketin Temmuz 2026'da yayınladığı Nemotron sürümü, erişim kalitesini ölçen RTEB testinde birinci sıraya yerleşti.

Nemotron modelleri açık ağırlıklı; yani isteyen indirip kendi altyapısında çalıştırabiliyor. Box'un avantajı modelin kendisinde değil, modelin etrafına kurduğu katmanda: mevcut üst veri, izin kontrolleri ve kurumsal içerik yapısı. Levie, "beş farklı teknolojiyi tek bir basit API'de paketliyoruz" diyerek bu farkı vurguluyor.

Somut kullanım: hukuk ekipleri

Box'un verdiği örnek hukuk departmanları. Nemotron embedding'leri yalnızca anahtar kelimeye bakmadığı için, farklı ifadelerle anlatılan aynı hukuki kavramı yakalayabiliyor. Bu, sözleşmede ilgili maddeyi ya da geçmiş bir emsal kararı ararken anahtar kelime eşleşmesinin kaçırdığı sonuçları ortaya çıkarıyor.

Aynı mantık finans, uyum ve teknik dokümantasyon ekiplerinde de geçerli: ajanın cevabı, belgenin tamamına değil, doğru parçaya dayanmalı.

Kimler kullanabilecek, ne zaman?

  • Erişim: tüm Enterprise Advance müşterileri.
  • Takvim: 2027'nin başında kademeli yayın.
  • Kapsam: özellik, Box'un mevcut izin ve üst veri yapısıyla birlikte çalıştığı için şirket dışına taşınabilir bir ürün değil.

Sınırlar ve soru işaretleri

İki nokta dikkat gerektiriyor. Birincisi, kazanç rakamlarının tamamı tedarikçi beyanı; gerçek müşteri verisinde sonuçların ne kadar tutacağı yayın ölçümleriyle netleşecek. İkincisi, bu mimari hâlâ klasik arama-sıralama hattına dayanıyor: embedding kalitesi artıyor, ama yanlış ya da eski belgeye dayanan bir cevabın sorumluluğu ajanı kullanan kurumda kalıyor.

Türkiye'deki kurumsal ekipler için anlamı

  • Yerel kurulum: Nemotron açık ağırlıklı olduğu için KVKK'ya duyarlı kurumlar embedding katmanını kendi sunucusunda çalıştırabilir; Box'un yönettiği kısım ise izin ve üst veri katmanı.
  • Türkçe: Şirket Türkçe için ayrı bir erişim ölçümü yayınlamadı. Çok dilli embedding modelleri genelde Türkçede makul çalışıyor ama hukuki terim eşleşmesi kendi verinizle test edilmeden varsayılmamalı.
  • Maliyet: %90 token tasarrufu iddiası, ajan başına aylık maliyeti doğrudan etkileyen tek kalem; pilot ölçümünde ilk bakılacak metrik bu olmalı.

Arama hattı nasıl değişiyor?

Kurumsal arama çoğunlukla üç adımlı bir hatla çalışıyor: belgeyi parçalara böl, her parçayı bir vektöre çevir, soruya en yakın parçaları modelin önüne koy. Bu hattın zayıf noktası genelde ilk adım değil, parçaların nasıl temsil edildiği. Anahtar kelimeye dayalı arama, aynı kavramın farklı kelimelerle yazıldığı durumlarda boş sonuç döndürüyor.

Embedding modeli tam burada devreye giriyor: metni kelime eşleşmesinden bağımsız, anlam yakınlığına göre temsil ediyor. Box'un iddiası, bu temsilin belge parçalarına önceden uygulanması sayesinde ajanın daha az parçayla doğru cevaba ulaşması. Token tasarrufunun kaynağı da bu: modele daha az metin gidiyor.

Ölçüm önerisi

Bu tür bir özelliği değerlendiren ekipler için anlamlı karşılaştırma, aynı soru setinin iki hat üzerinde çalıştırılmasıyla yapılır:

  • Test seti: gerçek kullanıcı sorularından 50–100 örnek, doğru cevabın hangi belgede olduğu bilinerek.
  • Metrikler: doğru parçayı bulma oranı, yanlış cevap oranı, sorgu başına token, ortalama gecikme.
  • Karşılaştırma: aynı set, mevcut anahtar kelime araması ile yeni hat üzerinde.

Yüzde 90 token tasarrufu iddiası doğruysa bu, ajan başına aylık maliyet tablosunda görünür bir fark yaratır. Ama tasarruf, yanlış cevap oranı artıyorsa pahalıya gelir; iki metrik birlikte okunmalı.

Sonuç

Box'un hamlesi, kurumsal içerik aramasının "belge bulma"dan "ajana doğru parçayı verme"ye kaydığını gösteriyor. Nemotron'un açık ağırlıklı olması, aynı yaklaşımın Box dışında da kurulabileceği anlamına geliyor; fark, üst veri ve izin katmanını kimin yönettiğinde ortaya çıkacak.

Paylaş