LFM2.5-24B-A2B: Cihaz Üstü Ajan Modeli Yayınlandı

Liquid AI, cihaz üstünde hızlı ve gizli ajanlar çalıştırmak için tasarlanan LFM2.5-24B-A2B modelini açık ağırlıklarla yayınladı. Model 24 milyar toplam parametreye sahip, ancak token başına yalnızca 2 milyar parametre aktif oluyor. Bu da her muhakeme adımının ucuz olması ve ajanların kendi donanımınızda kesintisiz çalışabilmesi anlamına geliyor.

Yeni sürüm, önceki LFM2-24B-A2B'nin mimarisini koruyor ama önemli bir farkla: artık muhakeme-öncelikli bir model. Yani cevabı vermeden önce açık bir düşünce zinciri üretiyor, araç çağırıyor ve çok adımlı görevleri popüler ajan ortamlarında tamamlayabiliyor.

Teknik olarak neler değişti?

Mimari 40 katman, her MoE bloğunda 64 uzman ve top-4 yönlendirme ile ilerliyor; kapılı kısa konvolüsyonlar ve GQA karışımı korunuyor. Ama üç boyutta ciddi büyüme var:

Bağlam penceresi 32K'dan 131K token'a çıktı.
Tokenizer 65K'dan 128K token'a genişletildi; Latin dışı diller daha verimli işleniyor.
Ön eğitim ~17T token'dan ~33T token'a ölçeklendi.

Orta eğitim aşamasında 32K bağlamda 2T token (muhakeme, matematik, kod, talimat takibi ve çok dilli metne ağırlıklı) ile 131K bağlamda 300B token (uzun bağlam verisine ağırlıklı) eklendi. Sonrasında model beş aşamada ajana dönüştürülüyor: denetimli ince ayar, öğretmen uzmanlaşması, ajan-dışı çok alanlı damıtma, ajan odaklı damıtma ve son olarak OpenClaw, Hermes Agent, Pi ve OpenCode gibi ajan ortamlarının içinde yürütülen ajan takviyeli öğrenme.

Kıyaslamalarda durum

Liquid AI, modeli 16 kıyaslamada Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it ve Nemotron-3.5-Lightning ile karşılaştırdı. Grup içindeki en küçük model olmasına rağmen, toplam ve aktif parametresi yaklaşık %50 daha fazla olan MoE'lerle başabaş yarışıyor:

AutomationBench: 27.69 (en yakın rakibin üç katından fazla)
BFCLv4: 65.01 — ToolSandbox: 80.71 — LiveClaw: 48.09 (Qwen 38.19)
IFEval: 96.75 — IFBench: 74.69 — Multi-IF: 84.38 (üç talimat takibi testinde de lider)
MATH-500: 96.04 — τ³-Bench Banking: 8.04

Zayıf kaldığı alanlar ise bilgi yoğun ve kodlama testleri: GPQA Diamond 74.42, HLE 7.40, SWE-Bench Verified (OpenCode) 51.00, SciCode 32.71. Liquid AI bu yüzden bilgi yoğun iş yüklerinde modele mutlaka arama ya da getirim (retrieval) eşlik ettirilmesini öneriyor.

Hız ve kurulum

Model, çıkarım ekosisteminde ilk günden destekleniyor: llama.cpp, MLX, vLLM, SGLang ve ONNX. Kenar cihazlarda en hızlı MoE olduğu iddia ediliyor: Apple M5 Max'te saniyede 184 token, Ryzen AI Max+ 395'te 114 token. GPU tarafında tek bir NVIDIA B300 üzerinde yüksek eşzamanlılıkta 21 binin üzerinde çıktı tokenı/saniye raporlanıyor.

Kurulum için en az transformers>=5.0.0 gerekiyor. Model yerel olarak OpenAI uyumlu bir arka ucun arkasında sunulup ajan ortamına bağlanabiliyor: örneğin Hermes Agent'ta hermes config set model.provider custom ve model.base_url http://localhost:8080/v1 ayarlarıyla. Hem LFM2.5-24B-A2B hem de temel sürümü Hugging Face'te açık ağırlık olarak indirilebilir.

Neden önemli?

Yerel ajanlar için darboğaz genelde muhakeme kalitesidir; küçük modeller düşünmeyi bırakır, büyük modeller cihazda çalışmaz. LFM2.5-24B-A2B, 2B aktif parametreyle muhakeme edip araç çağırarak bu ikilemi kırmaya çalışıyor. Sonuç, gizlilik ve maliyet nedeniyle buluta çıkmak istemeyen ekipler için ciddi bir yerel ajan adayı.

Kimler için uygun, kimler için değil?

Liquid AI, modeli kullanacağınız yerleri net biçimde ayırıyor. Model, araç kullanımı ve talimat takibi ağırlıklı işlerde en güçlü tarafını gösteriyor:

Yerel çalışan kodlama ve terminal ajanları,
Çok adımlı görev yürüten iş akışı otomasyonları,
Gizlilik nedeniyle buluta çıkamayan kurumsal ajanlar.

Buna karşılık bilgi yoğun sorular (GPQA Diamond, HLE, AA-Omniscience) ve ağır kodlama testleri (SWE-Bench Verified, SciCode) büyük modellerin gerisinde kalıyor. Liquid AI bu yüzden bilgi ağırlıklı işlerde modele arama ya da getirim eşlik ettirilmesini öneriyor. Yani model, "tek başına her şeyi bilen" bir asistan değil; araçları çağıran, hızlı ve ucuz bir yürütücü olarak konumlanıyor.

Açık ağırlık ve donanım bağımsızlığı

Modelin açık ağırlıkla yayınlanması, yerel yapay zeka tartışmasında önemli bir adım. Kullanıcı modeli kendi donanımında çalıştırabildiği için token maliyeti bulut fiyatlandırmasından bağımsız hale geliyor. llama.cpp, MLX, vLLM, SGLang ve ONNX desteğinin ilk günden gelmesi de tek bir satıcıya bağlı kalma zorunluluğunu ortadan kaldırıyor.

Mac'ten Windows'a, tek GPU'lu iş istasyonundan sunucu kartına kadar geniş bir yelpazede çalışabilmesi, modelin "telefonlarda uçtan uca kopyalama" tartışmalarından farklı bir dengeye işaret ediyor: cihaz üstü ajanlar artık yalnızca basit görevler için değil, gerçek ajan iş akışları için de masada.