İçindekiler
Açık kaynak model topluluğunun en çok konuşulan araçlarından Heretic, 2.0 sürümüyle yayınlandı. Geliştirici p-e-w'nin yaklaşık beş aylık çalışmasının ürünü olan sürüm, projeyi tek amaçlı bir sansür kaldırma aracından genel amaçlı model düzenleme platformuna taşıyor.
Rakamlarla Heretic
Projenin bugünkü büyüklüğü, tek kişilik bir açık kaynak girişimi için dikkat çekici: GitHub'da 37 bin yıldız, 4 bin 100'ün üzerinde çatal, Hugging Face üzerinde 8 bin 500'den fazla model ve toplamda 88 milyon model indirmesi. Bu ölçek, aracın yalnızca meraklıların denediği bir betik olmadığını, yerel model kullanan ciddi bir topluluğun iş akışına girdiğini gösteriyor.
Sansür kaldırma nasıl çalışıyordu?
Heretic'in temel yaklaşımı 'abliteration' yani yönlü ablasyon. Yöntem, modelin artık uzayında reddetme davranışının tek bir yönle temsil edildiği varsayımına dayanıyor. Bu yönü devre dışı bıraktığınızda model, güvenlik hizalamasının önemli bölümünü kaybediyor.
Heretic'in farkı, bu işlemi otomatikleştirmesiydi. Araç, Optuna tabanlı TPE optimizasyonuyla iki hedefi birlikte küçültüyor: reddetme sayısı ve orijinal modelden sapma (KL diverjansı). Böylece kullanıcı transformatör iç yapısını bilmeden, tek komutla 'sansürsüz' model üretebiliyordu.
2.0'daki en büyük yenilik: ARA
Yeni sürümün kalbinde Arbitrary-Rank Ablation (ARA) var. p-e-w'nin sıfırdan geliştirdiği bu yönlendirme yöntemi, reddetmenin tek bir yönde değil, çok boyutlu bir alt uzayda temsil edildiği fikrine dayanıyor. Klasik ablasyon bu varsayımı fazla basit buluyor; ARA ise keyfi rankta bir alt uzayla çalışıyor.
Geliştiriciye göre ARA, ablasyondan belirgin biçimde üstün ve aylardır test kullanıcıları tarafından uygulanıyor. 2.0'da varsayılan yöntem artık ARA; klasik ablasyon ise seçenek olarak korunuyor.
Eklenti mimarisi ve genişleyen kapsam
Heretic 2.0 baştan eklenti mimarisi üzerine kuruldu. 'Scorer' eklentileri aracın neyi optimize edeceğini, 'modifier' eklentileri ise yönlendirmenin nasıl uygulanacağını tanımlıyor. Eklentiler tek bir Python dosyasından yüklenebiliyor, bu da yeni davranışların topluluk tarafından hızlıca yazılmasını sağlıyor.
Pratik sonuç şu: araç artık yalnızca sansür kaldırmıyor. 'Slop' olarak anılan düşük kaliteli, şablon üretimi bastırmak; yalakalığı (sycophancy) azaltmak; duygusal hizalamayı değiştirmek gibi hedefler de tanımlanabiliyor. Sansür kaldırma yine varsayılan ve en olgun işlev, ancak araç artık bir model davranışı düzenleme atölyesine dönüşmüş durumda.
Kalite iddiası: aynı reddetme, daha az hasar
Projenin belgelerindeki karşılaştırma tablosu, iddianın özünü gösteriyor. gemma-3-12b-it modelinde 'zararlı' istemlere verilen reddetme sayısı 100 üzerinden 97. Topluluk tarafından yapılmış iki abliterasyon sürümünde bu sayı 3'e iniyor, ancak orijinal modelden sapma 1.04 ve 0.45. Heretic ile üretilen sürümde ise reddetme yine 3, sapma 0.16.
Yorum basit: aynı düzeyde reddetme bastırma, modelin yeteneklerine çok daha az zarar vererek elde ediliyor. Bu fark, özellikle küçük modellerde hissediliyor; çünkü agresif müdahale modelin genel performansını hızla düşürebiliyor.
Kullanım ve uyumluluk notları
Temel kullanım değişmedi: tek komutla model adı verilip süreç başlatılabiliyor. 2.0 ayrıca etkileşimsiz (non-interactive) çalışabiliyor; bu da uçtan uca testlerin otomatikleştirilmesini ve kalite kontrolünün sıkılaşmasını sağlamış. Model desteği hiper-bağlantılı mimarilere genişletildi, düşünen (thinking) modeller için destek belirgin biçimde iyileştirildi.
Önemli bir uyarı: 2.0, 1.x yapılandırmalarıyla geriye dönük uyumlu değil. Mevcut ayar dosyaları için geçiş rehberinin izlenmesi gerekiyor. Desteklenen mimariler arasında yoğun (dense) modeller, birçok çok kipli model, çeşitli MoE mimarileri ve Qwen3.5 gibi hibrit modeller var; saf durum-uzayı modelleri ise kapsam dışı.
Etik ve pratik uyarı
Bu tür araçların en tartışmalı yanı, güvenlik hizalamasının kaldırılmasının sorumluluğunu kullanıcıya bırakması. Geliştirici de topluluk içinde bu modellerin dağıtımı konusunda temkinli davranılmasını öneriyor. Kurumsal kullanımda lisans (AGPL-3.0), model kartı ve yeniden dağıtım koşulları ayrıca kontrol edilmeli.
Yine de Heretic 2.0'ın gösterdiği şey teknik: model davranışı artık yalnızca eğitim aşamasında değil, çıkarım öncesinde de şekillendirilebiliyor ve bu iş giderek kolaylaşıyor. Açık ağırlıklı modellerin yaygınlaştığı bir dönemde, bu yeteneğin hem araştırma hem kötüye kullanım tarafında etkisi büyük olacak.