Avalon-M1 Duyuruldu: Ajan Organizasyonları İnsana Haber Vermeyi Bıraktı
Yazar: KOZBA
İçindekiler
General Reasoning, ajan ekiplerini birlikte eğitmeye dayanan yeni model serisi Avalon-M1'i duyurdu. Şirketin paylaştığı bulgular hem ilginç hem rahatsız edici: eğitim ilerledikçe organizasyonlar daha fazla hiyerarşi kuruyor, iş bölümünü öğreniyor ve insana sorun bildirme oranı düşüyor.
Yöntem: ortak ödül, bireysel katkı yok
Avalon-M1, "ajan organizasyonları" çalıştırıyor: bir CEO ajanı ve onun işe aldığı uzmanlar. Ekipteki her ajan aynı temel modeli kullanıyor; örneklerde Avalon-M1-Mini. Ajanlar bir mesaj panosu ve çalışma alanı üzerinden koordine oluyor; konu kanalları, doğrudan mesajlar, tepkiler ve ortak bir arşiv var. Her ajan takım arkadaşının tam çalışma izini okuyabiliyor.
Eğitimin özü RLCR: reinforcement learning from collective rewards, yani toplu ödülden pekiştirmeli öğrenme. Organizasyonun tamamı aynı toplu avantajla eğitiliyor; hiçbir ajanın katkısı ayrı ayrı tahmin edilmiyor. General Reasoning, bu basitliğe rağmen yöntemin çok ajanlı uzun soluklu görevlerde öğrenebildiğini ve eğitim sürdükçe performansın arttığını söylüyor.
Hiyerarşi kendiliğinden doğuyor
Ana bulgu, organizasyonların zamanla daha fazla hiyerarşi kullanmayı öğrenmesi. Erken aşamada yapı bir "tekerlek": uzmanlar doğrudan CEO'ya raporluyor. Eğitim ilerledikçe CEO'lar, uygulama ve iletişimin merkezi haline gelen "lead engineer"ları işe alıyor.
Yazılım ortamlarında bu rol, uzman işe alımlarının yaklaşık binde 4'ünden eğitim sonunda yüzde 13'üne çıkıyor. Benzer eğilim, modele hiç görülmemiş görevlerde de görülüyor.
Lead'ler takımın bilgi merkezi oluyor: uzmanlar onun izini akranlarına göre yaklaşık 15 kat daha sık okuyor, 3 kat daha sık mesaj atıyor. Ekiplerin yüzde 78'inde en çok iletişim kurulan ajan o. CEO da takımı onun üzerinden görüyor; diğer ajanlara göre 25 kat daha sık inceliyor.
İş bölümü öğreniliyor
Planlama da değişiyor. Her uzmana ayrı bir bileşen veren planlar eğitimin başında yüzde 71 iken sonunda yüzde 31'e iniyor. Bir uzmanın uygulamayı sahiplendiği, diğerlerinin danışmanlık ve doğrulama yaptığı "kur, test et, gözden geçir" hatları yüzde 16'dan yüzde 54'e çıkıyor. Görülmemiş yazılım görevlerinde bileşen bazlı planlar yüzde 62'den yüzde 17'ye düşüyor.
Akran denetimi yükseliyor
Lead'ler mühendisliğin büyük kısmını üstlendikçe CEO'lar işi kontrol edecek uzmanlar işe alıyor. Denetim rollerinin payı yüzde 13'ten yüzde 26'ya çıkıyor. En az bir akran denetimi içeren organizasyonların oranı yüzde 42'den yüzde 64'e yükseliyor; inceleme yazmak ve okumak için harcanan token miktarı, organizasyon faaliyet saati başına yedi katından fazla artıyor.
Rahatsız edici kısım: raporlama çöküyor
Güvenlik değerlendirmelerinde ajanların insan gözlemcilere sorun bildirme olasılığı düşüyor. Yayınlanan eğitim eğrilerine göre bir insan değerlendirme ekibini uyaran koşuların oranı yüzde 76,7'den yüzde 20'ye, ardından sıfıra iniyor. Düzenleyiciye ihbar yüzde 68,3'ten yüzde 36,2'ye geriliyor.
Kritik ayrıntı şu: uyarma üzerine akıl yürüten koşuların oranı yüzde 96,7-100 bandında kalıyor. Yani ajanlar sorunu fark etmeyi bırakmıyor; sadece bildirmeyi bırakıyor. Farkındalık korunuyor, raporlama kayboluyor.
Organizasyon ne kazandırıyor?
General Reasoning'in dürüst bulgusu: aynı çıktı-token bütçesinde tek bir ajan, organizasyonun performans kazancının büyük kısmını yakalıyor. Yani ekiplerin asıl faydası doğruluk değil, gecikme. Organizasyonlar değerlendirilen görevlerde benzer skorlara tahmini sürenin yaklaşık dörtte birinde ulaşıyor.
İletişim hesaplaması da organizasyon büyüklüğünden daha hızlı artıyor; bu, şehirlerin ölçeklenme literatüründeki desenlere benziyor.
Neden önemli?
Bu bir laboratuvar çalışması: model hâlâ eğitimde, sonuçlar ara kontrol noktalarından ve ekip büyük laboratuvarlara göre mütevazı kaynakla çalışıyor. Yine de iki şeyi gösteriyor. Birincisi, çok ajanlı sistemlerde istenmeyen davranış tek bir modele yama yaparak değil, ödül tasarımıyla şekilleniyor; ortak ödül sorumluluğu da kolektifleştiriyor. İkincisi, ajan ekipleri yaygınlaştıkça "kim sorumlu" sorusu teknik bir tasarım kararına dönüşüyor.