Perplexity Decider 1.3: Olasılık Üreten Model

Yapay zeka modellerinin çoğu metin üretir; Perplexity Decider ise tam tersini yapıyor: bir girdiyi okuyup, sorulan sorulara olasılık dağılımı ile yanıt veriyor. Şirket, Decider v1.3 ve daha küçük Decider Flash v1.3 sürümlerini yayınladı. Her iki model de Hugging Face'te Apache 2.0 lisansıyla, OpenRouter'da ve Perplexity Decisions API üzerinden erişilebilir durumda.

Karar modeli ne demek

Bir karar modeli, genel amaçlı bir sınıflandırıcı olarak düşünülebilir. Modele bir içerik ve her biri olası yanıtlarıyla birlikte sorular veriyorsunuz; model her soru için yanıtlar üzerinde bir olasılık dağılımı döndürüyor. Üç temel soru tipi var:

Evet/Hayır: ikili karar, dönen değer P(doğru) olasılığı.
Çoktan seçmeli: 1 ile 255 arasında özel etiket; her seçenek için olasılık.
Puanlama: sıralı düzeyler (rubrik); beklenen düzey indeksi ve dağılım.

v1.3 ile birlikte dördüncü bir tip geliyor: Locate. Bu tip, verilen metinden bir açıklamaya uyan birebir kesitleri karakter offset'leri ve güven puanlarıyla çıkarıyor. Model burada da metin üretmiyor, konum bilgisi döndürüyor.

Neden önemli: ayrıştırma derdi bitiyor

Klasik yaklaşımda bir uygulama, modelin serbest metin yanıtını ayrıştırmak (parse etmek) zorunda. Model "evet gibi görünüyor ama emin değilim" dediğinde kod tarafında bunu sayıya çevirmek kırılgan bir iş. Karar modeli ise doğrudan tutarlı bir sayı döndürüyor; eşik değeri uygulama tarafında belirleniyor.

Perplexity'nin changelog'una göre çıktı token'ı üretilmiyor (output token sayısı sıfır). Yani maliyet modeli de farklı: fiyatlandırma yalnızca girdi token'ı üzerinden. Decider v1.3 için milyon girdi token'ı başına 0,02 dolar, Flash v1.3 için 0,01 dolar.

Modeller ve teknik özellikler

Decider v1.3, Qwen3.8-27B üzerine kurulu çok kipli bir sınıflandırma modeli. Flash sürümü ise v1.3'ten damıtılmış 4B'lik daha küçük bir model. 27B'lik sürümü yerelde çalıştırmak isteyenler için ciddi bir donanım gereksinimi var: Hugging Face kartına göre Python 3.12 ve BF16 ağırlıklar için yaklaşık 49 GiB boş VRAM gerekiyor.

İstek şeması, tek bir "state" (metin, JSON ya da görsel) ve bu state hakkında birden fazla soru kabul ediyor. Birden fazla soru tek geçişte yanıtlanıyor ve sorular birbirinden izole ediliyor. Her yanıt; seçim, olasılıklar ve güven değeri döndürüyor.

Kalibrasyon uyarısı: eşikleri kendiniz ayarlayın

Perplexity'nin dokümantasyonundaki en kritik uyarı kalibrasyonla ilgili. Model dosyasındaki decision_config.json dosyası, tutulan kalibrasyon verisiyle uydurulmuş bir sıcaklık (temperature) değeri saklıyor ve bu değer her istekte bir kez uygulanıyor.

Ancak şirket, uygun karar eşiğinin uygulamaya göre değiştiğini açıkça söylüyor: yanlış pozitif ve yanlış negatif maliyetleri, etiket sıklıkları farklı. Bu yüzden kullanıcıların kendi trafiklerinden küçük ve temsilî bir etiketli küme üzerinde eşik ayarlaması öneriliyor. Ayrıca sürümler arasında olasılıklar değişebildiği için v1.2'de ayarlanmış eşiklerin v1.3'te yeniden doğrulanması gerekiyor.

Benchmark sonuçları

Perplexity'nin yayınladığı sayılar şöyle (şirketin kendi ölçümleri):

Sorgu sınıflandırma (63 görev): yüzde 91,6 ortalama doğruluk; üretimdeki sınıflandırıcıların 6,54 puan üzerinde.
Alan sınıflandırma: 7 alanın tamamında Jev 1.14'ün önünde; finans alanında 12,9 puana varan fark.
Getirme ve yeniden sıralama (72 görev): 83,99 ortalama nDCG@10; Qwen3-Reranker-8B'nin 1,81, Jev 1.14'ün 2,24 puan üzerinde.
Çok dilli (19 görev, 8 dil): yüzde 88,16.
Locate (17 alan dışı görev): v1.3 için 69,0; Flash için 63,6. Karşılaştırma: Liquid d1 43,3, GLiNER large v2.5 33,6.
Görsel sınıflandırma: yüzde 76,99.
Gerçek trafik (1 milyon istek, 2,3 milyon soru): frontier LLM hakemleriyle yüzde 93,98 uyum.
Dayanıklılık: sıralama veya etiket değişikliklerinde yanıtın dönme oranı yüzde 0,27; Jev 1.14'te bu oran yüzde 2,69-4,84.

Bu tabloda dikkat edilmesi gereken nokta, karşılaştırmaların büyük bölümünün yine bir karar modeli olan Jev 1.14 ile yapılması. Genel amaçlı büyük modellerle kıyas bu tabloda yer almıyor.

Nerelerde kullanılır

Model yönlendirme: Bir isteğin zor olup olmadığına göre küçük ya da büyük modele yönlendirme.
Çıktı denetimi: Üretilen yanıtın kaynağa sadakati, kalitesi ve güvenliği.
Moderasyon: Zararlı içerik, kimlik avı ve araç çıktısındaki prompt injection tespiti.
Etiketleme: Büyük içerik koleksiyonlarını sınıflandırma ve filtreleme.
Locate ile veri çıkarma: Faturalardan, formlardan veya sözleşmelerden belli alanları birebir kesitle çekme.

Sonuç

Decider v1.3, "her işi büyük sohbet modeline yaptırma" yaklaşımına alternatif bir mühendislik cevabı: sınıflandırma ve yönlendirme gibi kararları, olasılık döndüren küçük ve ucuz bir modele devretmek. Açık ağırlıklar, sıfır çıktı token'ı ve düşük girdi fiyatı cazip; ancak eşik kalibrasyonu ve sürüm geçişlerinde yeniden doğrulama, üretimde atlanmaması gereken adımlar.