İçindekiler
Yapay zeka ekosisteminde sohbet odaklı büyük dil modellerinin (LLM) egemenliği sürerken, doğrudan yazılım mimarilerine entegre edilmek üzere geliştirilen farklı yaklaşımlar öne çıkıyor. Eski OpenAI araştırmacısı Diogo Almeida liderliğindeki TypeSafe AI, metin üretmek yerine doğrudan olasılıksal kararlar alan yeni nesil yapay zeka modeli Jev'i kullanıma sundu. Daha önce ChatGPT'nin temel eğitim tekniklerine katkı sağlayan ekip tarafından duyurulan model, geleneksel dil modellerine kıyasla 193 kata kadar daha hızlı ve 445 kata kadar daha düşük maliyetli bir altyapı vadediyor.
System One Mimarisi ve Karar Mekanizması
Jev, bilişsel bilimde hızlı ve sezgisel tepkileri tanımlayan 'System One' yaklaşımını temel alıyor. Kullanıcıyla sohbet etmek veya uzun metinler üretmek yerine, doğrudan programlama süreçlerinde ifade değerlendirmesi ve sınıflandırma yapmak üzere yapılandırıldı. Model, TypeSafe AI tarafından geliştirilen Kalibre Edilmiş Kararlar İçin Pekiştirmeli Öğrenme (RLCD) yöntemiyle eğitildi. Bu yöntem sayesinde sistem, açık uçlu yanıtlar yerine tamamen doğrulanabilir ve yapılandırılmış çıktılar üretiyor.
Geleneksel dil modelleri sıralı olarak token üretirken, Jev tek bir istek içerisindeki bağımsız soruları paralel şekilde işleyebiliyor. Yazılımcılar sisteme mevcut durumu (state) ve bu durumla ilgili verileri aktararak belirli ifadelerin doğrulanmasını talep ediyor. Sistem hafıza tutmuyor ya da genel bir bilgi tabanına başvurmuyor; yalnızca iletilen anlık veriyi analiz ederek sonuç döndürüyor.
JSON Çıktıları ve Halüsinasyon Riskinin Azaltılması
Modelin girdi ve çıktı yapısı doğrudan standart JSON formatına dayanıyor. Sohbet tabanlı modellerde karşılaşılan gereksiz açıklamalar, yönlendirme komutları (prompt engineering) veya çıktı biçimlendirme sorunları bu yapıda yer almıyor. Sistemin bağlam penceresi 64.000 token ile sınırlandırılmış durumda ve gereğinden fazla bağlam aktarımı yapılması doğruluk payını düşürebiliyor. Daha önce detayları paylaşılan metin üretmeyen yapay zeka yaklaşımı, çıktılarda bir güven katsayısı (olasılık dağılımı) sunduğu için klasik anlamda uydurma veri (halüsinasyon) riskini de ortadan kaldırıyor.
Kullanım Alanları ve LLM Karşılaştırması
Geliştiriciler, Jev'in ürettiği güven skorlarına göre yazılım akışlarını yönetebiliyor. Örneğin bir müşteri hizmetleri akışında iade talebinin tespiti, niyet yönlendirme veya alıntı kontrolü gibi işlemler doğrudan modelin ürettiği yüzdelik güven oranlarıyla otomatikleştirilebiliyor. Sistem geniş kapsamlı muhakeme gerektiren ya da açık uçlu görevlerde LLM'lerin yerini almayı hedeflemiyor. Bunun yerine karmaşık sistemlerde filtreleme, yönlendirme ve karar verme adımlarını üstlenerek maliyetli ve yavaş çalışan büyük dil modellerinin yalnızca ihtiyaç anında devreye girmesini sağlıyor.