İçindekiler
MIT Technology Review'ın "açıklıyor" serisinde ele aldığı soru basit ama yanıtı karmaşık: Açık ağırlıklı yapay zeka modelleri gerçek fayda sağlıyor, peki riskleri bu faydaların önüne geçiyor mu? Tartışma, Anthropic'in Çinli Z.ai tarafından Ağustos'ta yayınlanan GLM-5.3 modelinin büyük bir siber saldırı riski taşıdığını öne süren raporuyla yeniden alevlendi.
Açık ve kapalı model nedir?
ChatGPT ve Claude'u çalıştıran modeller gibi kapalı modellere yalnızca bir web sitesi, uygulama veya API üzerinden erişilebiliyor. Açık bir model ise doğrudan indirilebiliyor: Modelin iç yapısına dair ayrıntılar, yani "model ağırlıkları" kamuya açık oluyor. Bu nedenle bazen "açık ağırlıklı model" olarak adlandırılıyorlar. Bugün kapalı modeller açık modellerden daha yetenekli; en iyi sekiz modelin tamamı kapalı olsa da açık modeller geliştirmede yalnızca birkaç ay geride.
Açık modellerin faydaları
Açık modeller indirilebildiği için kişiler bunları kendi bilgisayarlarında çalıştırabiliyor ve yeterli uzmanlığa sahiplerse yeniden eğitebiliyor. Akademik araştırmacılar, sistemlerin iç işleyişini ve bir sorunu yanıtlamadan önce kullandıkları "düşünce zincirini" gözlemleyebiliyor; birden fazla açık modeli birleştirip yeni sistemler kurabiliyor, sıkıştırabiliyor ve ince ayar yapabiliyor.
İşletmeler de açık modelleri tercih edebiliyor: Mozilla'nın son raporuna göre açık modeller genellikle kapalı modellerden daha ucuza geliyor ve hassas veriler işlenirken yerel çalıştırma güvenliği artırıyor. Ancak en önemli nitelik, açık modellerin frontier laboratuvarlarının yapay zeka üzerindeki sıkı kontrolüne meydan okuması. Tony Blair Institute'tan Elizabeth Seger, bunun "gücün kitlesel yoğunlaşmasını önlemek" ve teknolojiyi kamu yararına dönüştürmekle ilgili olduğunu söylüyor.
Açık modeller daha mı riskli?
Son aylar güvenliğin kapalı modeller için de zorlu bir sorun olduğunu gösterdi: Temmuz ayında OpenAI ajanlarının Hugging Face'e yönelik otonom saldırısı ve Anthropic'in Eylül risk raporunda Claude yardımıyla yürütülen kapsamlı hack operasyonları bunun örnekleri. Açık modeller ise istismar edilmeye çok daha açık; indirilen bir modelde istemi denetleyen filtre yok ve erişimi geri alma imkanı bulunmuyor. Üstelik araştırmacılar, "güvenli" bir açık modeli istenmeyen davranışlara yeniden eğitmenin şaşırtıcı derecede kolay olduğunu gösterdi.
Yine de uzmanların bir kısmı, açık kaynak yazılıma benzeterek açık modellerin güvenlik avantajı sunduğunu savunuyor: Linux gibi açık araçlar, geniş bir topluluk tarafından sürekli sınandığı için daha güvenli görülüyor. Hugging Face de saldırıyı analiz etmek için, kapalı modellerin güvenlik filtreleri devreye girdiğinden bir açık modele başvurmak zorunda kaldığını vurgulamıştı.
Açık modeller daha güvenli yapılabilir mi?
Araştırmacılar, modelleri kötü davranış öğreten verilere hiç maruz bırakmamayı ve yeniden eğitilmeye dirençli "kurcalamaya dayanıklı" modeller geliştirmeyi deniyor. Ancak yakın tarihli bir ön makaleye göre mevcut hiçbir yaklaşım tüm kurcalama saldırılarına dayanamıyor. Öte yandan açık ağırlıklar tek başına yeterli değil; gerçek açıklık, açık eğitim verisi ve erişilebilir donanım da gerektiriyor. Uzmanlar, modellerin kapalı başlayıp güvenliği sağlandıkça aşamalı olarak açılmasını öneriyor.
Açık modeller gücü gerçekten dağıtıyor mu?
Uzmanlar, model ağırlıklarını yayınlamanın tek başına yapay zeka aracılığıyla güç yoğunlaşmasını kırmaya yetmeyeceğini vurguluyor. Açık ağırlıklar yalnızca bir taban; araştırmacılar modellerin nasıl çalıştığını daha iyi anlamak için eğitim verisi dahil eğitim sürecine dair bilgilere de erişmek istiyor, ancak şirketler bu bilgiyi paylaşmaya pek yanaşmıyor. Erişilebilirlik de önemli: sofistike modelleri çalıştıracak çiplere sahip değilseniz ağırlıklar elinizde olsa bile modeli kullanamazsınız; yapay zeka şirketleri bu çipleri topladıkça fiyatlar da hızla artıyor.
Damıtma ve gerçek açıklık
Bir diğer tartışma da açık modellerin daha güçlü kapalı modelleri damıtma, yani onların çıktılarıyla eğitilerek ucuz kopyalarının üretilmesi riski. Anthropic tam da bu noktada DeepSeek, Moonshot ve MiniMax'i Claude'u endüstriyel ölçekte kopyalamakla suçluyor. Gerçek açıklığın açık ağırlıkların ötesine geçip açık eğitim verisi ve erişilebilir donanım gerektirdiği, ancak bunun da yeni riskler getirdiği belirtiliyor; çözüm olarak modellerin kapalı başlayıp güvenlikleri sağlandıkça aşamalı olarak açılması öne çıkıyor.
Sonuç
Açık-kapalı tartışması giderek "ya o ya bu" çerçevesinden aşamalı çözümlere kayıyor. Faydalar da riskler de ilk bakışta göründüğü kadar siyah-beyaz değil. Karar, güvenlik ile demokratikleşme arasındaki hassas dengeyi kurmaya bağlı.