İçindekiler
IBM, dil modellerinin bağlamı nasıl okuduğunu değiştirmeyi hedefleyen LLMON adlı işaretleme dilini duyurdu ve Granite 4.1 ailesinden türetilen iki deneysel önizleme modelini yayımladı. Kısaltma "LLM Object Notation"dan geliyor, okunuşu "lemon".
LLMON nedir?
LLMON, modelin bağlamındaki her parçayı etiketleyen, XML benzeri bir işaretleme dili. Talimat, veri, gereksinim ve çıktı blokları ayrı ayrı işaretleniyor; sınırlayıcı olarak normal karakterler yerine modele özel ayrılmış token'lar kullanılıyor. IBM'in ifadesiyle amaç, yapıyı ve anlamı modele "açıkça" anlatmak.
Yayımlanan modeller granite-4.1-3b-LLMON-preview ve granite-4.1-8b-LLMON-preview. Her ikisi de temel Granite 4.1 modellerinden türetilmiş ve LLMON işaretli metni okuyup üretmek üzere eğitilmiş. Dönüştürücüler ve örnek iş akışları GitHub'daki llmon deposunda yer alıyor.
JSON neden yetmiyor?
IBM'in eleştirisi teknik ve yerinde: JSON, ayrıştırıcılar (parser) için tasarlandı, nedensel dil modelleri için değil. Tokenizer, dilbilgisine uymak zorunda değil; yapıyı taşıyan {, ", : karakterleri normal metinde de geçebiliyor. Bir model için belge içindeki tırnak ile alanı kapatan tırnak aynı token. İç içe geçme derinliği parantez saymakla kodlanıyor; transformer'ların uzun aralıklarda zayıf olduğu bilinen bir nokta.
LLMON'da ise sınırlayıcılar ayrılmış özel token'lar olduğu için yapı ile içerik sözlüğün farklı bölümlerini kullanıyor. Etiketler her bloğun başında yazılıyor, blok sınırları açık. İç içe yapı yerel olarak belirtiliyor; modelin hiyerarşiyi uzun metin boyunca aklında tutması gerekmiyor.
Çalışma mantığı: exec bloğu
Her kullanıcı turu artık parçalara ayrılabiliyor: talimat, veri, gereksinim. Her parça exec etiketiyle işaretleniyor. True olan parçalar, çıktının sonunda yer alan exec bloğuna bağlanıyor; bu blok hangi talimatın hangi veri üzerinde, hangi kısıtlar altında çalışacağını ve yanıtın hangi bloğa yazılacağını söylüyor. False işaretli parçalar bağlamda duruyor ama hiçbir şeye bağlanmıyor.
Blok kimlikleri sabit bir kümeden seçiliyor ve tokenizer bunları tek token olarak kodluyor; yani herhangi bir bloğa atıf yapmak her zaman iki token maliyetinde.
Prompt injection'a etkisi
En dikkat çekici iddia güvenlik tarafında. LLMON, talimat ile veriyi ayrı bloklara koyduğu için getirilen bir belgeye veya araç yanıtına gizlenmiş dolaylı prompt injection'ların büyük ölçüde yok sayıldığı belirtiliyor. IBM'e göre bazı testlerde saldırı başarı oranı neredeyse sıfıra iniyor; normal talimatla eğitilmiş modeller ise yüksek olasılıkla yönlendirilebiliyor. Bu sonuç, Granite 4.1 Instruct modellerine göre genel yetenek korunarak elde edilmiş.
İkinci fayda bağlam disiplini: ilgisiz pasajlar, eski sohbet turları ve araç çıktıları yanıta sürüklenmiyor, çünkü her talimat yalnızca uygulandığı veriye bağlı.
Sohbet şablonlarının yerini almıyor
LLMON, sohbet şablonlarını (chat template) değiştirmiyor; onları zenginleştiriyor. Normal şablonlar modele hangi parçanın hangi role ait olduğunu söylerken LLMON, her bileşenin ne anlama geldiğini ve bileşenler arası ilişkiyi anlatıyor. Önizleme modelleri kendi sohbet şablonlarıyla geliyor; mevcut messages listesini kullanmaya devam ediyorsunuz, şablon LLMON çıktısını üretiyor.
JSON dönüşümü ve LoRA
Ekiplerin mevcut hatları JSON üzerine kurulu olduğu için kayıpsız dönüşüm araçları eklenmiş: JSON'u LLMON'a, LLMON'u JSON'a çevirmek mümkün. Kendi etiket kümenizi tanımlayıp LLMON modellerinin üzerine LoRA ile ince ayar yapmak da mümkün. IBM'in Mellea çerçevesi, LLM çağrılarını otomatik olarak LLMON'a çevirerek yerleşik destek sunuyor.
Dikkat edilmesi gerekenler
- Modeller deneysel önizleme; üretim kullanımı için değil, değerlendirme için yayımlandı.
- Kazançlar IBM'in kendi yayınında bildirildi; bağımsız çoğaltma henüz yok.
- LLMON'a geçmek istemeyen ekipler için JSON köprüsü var, ancak şablon ve araç desteğinin olgunlaşması gerekiyor.
- Küçük modellerde yapı takibi zayıf olduğu için kazanç en çok bu segmentte hissediliyor.
Kimin işine yarar?
Çok adımlı ajan zincirleri kuran, araç yanıtlarını bağlama karıştıran ve prompt injection riskini azaltmak isteyen ekipler için LLMON dikkate değer bir deneme alanı. Tek bir sohbet uygulaması geliştirenler için ise bugün en pratik yol, JSON dönüştürücülerini test edip modelin kendi etiket yapısına uyumunu ölçmek.