Palette Tanıtıldı: 20B'lik Model Sunumları Kendi Tasarım Dilinizde Kuruyor
Yazar: KOZBA
İçindekiler
IBM Research, kendi tasarım dilinizde sunum üreten açık ağırlıklı bir model üzerinde çalıştığını duyurdu. Palette adını taşıyan sistem, 20 milyar parametreli bir modelin ince ayarıyla kuruldu ve PresentBench değerlendirmesinde ölçülen üç alanın ikisinde birinci sıraya yerleşti.
Neden küçük modeller sunumda başarısız?
Bir sınır modelden slayt istediğinizde iyi bir sonuç alırsınız. On tane istediğinizde hepsi birbirine benzemeye başlar: Aynı zevkli varsayılanlar, aynı “yapay zeka üretimi” havası. Sorun, çıktının sizin şablonunuza benzememesi ve gizli içeriğin sistem dışına çıkamaması.
Bu iki kısıt, sahip olduğunuz bir modele işaret ediyor. Ancak kendi sunucunuzda çalıştıracağınız küçük açık modeller bu işte kötü: Başlıklar arkaplanda kayboluyor, metin slaytın dışına taşıyor, şekiller üst üste biniyor.
Bunun üç nedeni var: Model slaytı görmeden yerleşim yapıyor, yani her öğeyi x, y, genişlik ve punto olarak koda yazıyor. İki farklı kararı aynı anda veriyor: Ne anlatılacak ve nasıl gösterilecek. Üçüncüsü, sunumların nasıl yapıldığına dair veri yok.
İnsan gibi çalışıyor: tasarımcı ve kodlayıcı
Kimse sunumu tek geçişte yapmıyor. Önce hikâye kurulur, sonra slaytlar çizilir. Palette aynı işi iki role bölüyor ve ikisini tek bir LoRA adaptörüyle karşılıyor:
- Tasarımcı: Planı okuyup yapılandırılmış bir JSON özeti yazıyor: Renk paleti, tip sistemi, her slaytın yerleşimi, içeriği ve kısa tasarım gerekçesi.
- Kodlayıcı: Özetten tek slaytın spesifikasyonunu alıp onu çizen pptxgenjs JavaScript kodunu, gerekçesiyle birlikte yazıyor.
Böylece her rol tek tür karar veriyor. Aradaki özet okunabilir ve düzenlenebilir olduğu için tek bir slaytın yerleşimi, destenin tamamı yeniden üretilmeden değiştirilebiliyor. Her slaytın bağlamı kod yazılmadan sabitlendiği için kodlama çağrıları paralel çalışıyor; bu da kodlama aşamasını yaklaşık 6-7 kat hızlandırıyor.
Veri nasıl üretildi?
Plan, tasarım kararı ve slayt kodundan oluşan kamuya açık bir veri kümesi yok. IBM bu veriyi büyük bir açık öğretmen modelle sentezledi: Her deste tarz, uzunluk, yerleşim ve kullanıcı yönergesi içeren bir tarifle başlıyor. Planlar düzenli taslaklardan ham içerik yığınlarına kadar uzanıyor ki model kısaltmayı öğrensin. Toplamda yaklaşık 1.000 deste ve 10.000 slayt üretildi.
Her örnek, kararın arkasındaki gerekçeyi de taşıyor; üstelik karşı-olgusal biçimde: İz, reddedilen alternatifi ve neden reddedildiğini yazıyor. Üretilen her deste render edilip taşma ve üst üste binme için denetleniyor, bozuk slaytlar onarılıyor ve gerekçeleri yeniden yazılıyor. Eğitimde bir dengesizlik de ortaya çıktı: Kodlayıcı örnekleri tasarımcı örneklerinden yaklaşık 5 kat uzun olduğu için tasarımcı örnekleri 5 kat fazla örneklenerek dengelendi.
En zor sorun: sadakat
En kötü hata, girdide olmayan bir bilginin slayta girmesi. IBM, bunun prompt kuralıyla engellenemediğini gördü: Özet altıya beşlik bir tablo istiyor ama elinde üç madde varsa kodlayıcı kalanını uydurmak zorunda kalıyor. Çözüm kurallar değil referans desteler oldu; öğretmen model prompt içindeki referansları, talimatlardan çok daha fazla taklit ediyor.
Düz Türkçe ile yönlendirme
Kullanıcılar tek tek tasarım kararlarını değiştirmek isteyebiliyor: Tablo yerine grafik, belirli bir renk, daha koyu bir kapak. Palette bunun için plan içine çift köşeli parantezle yazılan kısa yönergeler kullanıyor. Bu yönergeler, destenin tamamını yeniden üretmeden tek slaytı yönlendirmeyi sağlıyor.
Kimler için anlamlı?
- Kurumsal şablonu olan ve içeriği dışarı çıkaramayan ekipler.
- Onlarca sunumu aynı tasarım dilinde üretmesi gereken satış ve pazarlama ekipleri.
- Kendi sunucusunda açık ağırlıklı model çalıştırmayı planlayan geliştiriciler.
Sonuç
Palette'in iddiası “küçük model sınır modeli geçer” değil. İddia daha dar: Doğru bölünmüş roller, sentetik ama denetlenmiş veri ve çıktıyı kontrol eden bir harness ile 20B'lik bir model, tasarım dilinizi koruyarak rekabet edebilir. Sunum üretiminde asıl darboğazın model boyutu değil, kontrol ve doğrulama katmanı olduğunu gösteriyor.