Nace.AI Drex 1.5 Açık Kaynak: 9B Karar Modeli

Nace.AI, karar modelleri ailesinin yeni sürümü Drex 1.5'i Hugging Face üzerinde açık ağırlıklarla yayınladı. Model, alıştığımız dil modellerinin yaptığı işi yapmıyor: Metin üretmiyor; verilen durumu ve isimlendirilmiş soruları okuyup her seçenek için olasılık döndürüyor.

Teknik özellikler

8,95 milyar parametre, dense mimari; bf16 ağırlıklar yaklaşık 18 GB.
Varsayılan bağlam penceresi 16.384 token; gerektiğinde 131.072'ye kadar çıkıyor.
24 GB'lık bir A10G GPU'da bf16 olarak çalışıyor; yaklaşık 9,5 GB'lık Q8_0 GGUF sürümü Apple silicon veya CPU üzerinde çalışabiliyor.
Üç soru biçimi destekleniyor: Seçim, evet/hayır ve sıralı puanlama. Hepsi POST /v1/systemone uç noktasından sunuluyor.

Karar modeli ne demek?

Son bir ayda karar modelleri yapay zekanın en yoğun kategorilerinden biri haline geldi. TypeSafe AI'nın Jev'i bu dalgayı başlattı; ardından OpenAI Decisions API, Cloudflare Clef ve Clef-flash, Microsoft-Decision-1, Liquid AI d1, Perplexity Decisions API, Strands Decider 2B ve H2O-Lightning-4B geldi. Hugging Face'teki Jev Decision Index'te listelenen bu tür model sayısı 100'ü geçmiş durumda. Ortak vaat aynı: Sohbet modelinin serbest metnini ayrıştırmak yerine, yazılımın doğrudan işleyebileceği sınırlı ve olasılıklı çıktı almak.

Nasıl çalışıyor?

Kullanım biçimi dil modellerinden farklı. Modeli çağıran sistem, mevcut durumu (düz metin veya JSON) ve isimlendirilmiş soruları gönderiyor; model tek bir ileri geçişte her seçenek için olasılık üretiyor. Böylece arka uç iş akışları, ajanlar ve yönlendirme kararları sohbet çıktısını yorumlamaya ihtiyaç duymadan sayısal eşiklerle yönetilebiliyor.

Kimler için uygun?

Ajan geliştiricileri: API çağrısı, yönlendirme veya sonraki adım seçimi gibi kararları modele bırakmak isteyenler.
Arka uç ekipleri: Sınıflandırma ve yönlendirme kararlarını düşük gecikmeyle almak isteyenler.
Donanımı kısıtlı ekipler: 24 GB GPU veya daha az bellekle yerel çalıştırma ihtiyacı olanlar.

Benchmark sonucu

Nace, Drex 1.5'in Decision Index 0.3.1 sürümünde 58,08 puan aldığını ve bunun 10 milyar parametrenin altındaki modeller arasında en yüksek skor olduğunu söylüyor. Bu değer, kapalı bir model olan Jev 1.13.0'ın 57,96 puanıyla aynı bant içinde bulunuyor. İki puan arasındaki fark yalnızca 0,12; yani pratikte eşit sayılacak kadar yakın.

Nerede test edilir?

Açık ağırlıklar Hugging Face'te, barındırılan sürüm ise OpenRouter üzerinde yayında. Ekipler modeli hem kendi altyapılarında çalıştırabiliyor hem de API üzerinden deneyebiliyor. Ajan geliştirenler için avantaj, karar mantığını sohbet modelinin zincir düşünme çıktısından ayrıştırmak zorunda kalmamak: Tipli sorular giriyor, kalibre edilmiş olasılıklar çıkıyor.

Dikkat edilmesi gerekenler

Benchmark iddiası tek başına yeterli değil. Puanlar üreticinin kendi raporuna dayanıyor ve şans düzeltmeli skorlar 37 benchmark üzerinden hesaplanıyor. Modelin index benchmarklarının resmî bölümlerinde eğitildiği belirtiliyor; bu hile kanıtı olmasa da üçüncü tarafların kendi ayrılmış testlerini yapması gerektiği anlamına geliyor. Üretim kararı veren ekipler için doğru sıra şu: Kendi karar iş akışınızı tanımlayın, açık ağırlıklı sürümü kendi donanımınızda çalıştırın ve maliyet ile gecikme ölçümünü kendiniz yapın.

Karar modellerinin avantajı düşük maliyet ve tutarlılık. Ancak bu modeller de hata yapabiliyor; kritik iş akışlarında çıktının doğrulanması gerekiyor.