Ücretsiz Çin Modelleri Hacklemede Sınırı Zorluyor: DeepSeek, Daybreak'in Ardında
Yazar: KOZBA
İçindekiler
Açık ağırlıklı modeller, ağlara sızma becerisinde kapalı modellere yaklaştı. WIRED'ın aktardığı yeni bir araştırmaya göre DeepSeek ve GLM gibi ücretsiz indirilebilen modeller, OpenAI'nin yalnızca güvenilir ortaklara açtığı en gelişmiş siber modelinin hemen arkasında yer alıyor.
Araştırmayı yapan Vals, modellerin sahte kurumsal ağlarda çok adımlı görevleri ne kadar iyi yerine getirebildiğini ölçtü. Sonuç, siber güvenlikte uzun süredir beklenen eşiğin geçildiğine işaret ediyor: kapalı modellerin siber yeteneklerde artık belirgin bir üstünlüğü yok.
Test nasıl kurgulandı?
Vals, modelleri iki simüle senaryoda denedi. İlk senaryoda dışarıya açık bir web sitesi üzerinden erişilebilen sahte bir kurumsal ağ vardı. İkinci senaryoda iki ayrı şirket ağı bulunuyordu; modelin ikinciye geçebilmesi için önce ilkini ele geçirmesi gerekiyordu.
Bu kurgu önemli, çünkü gerçek saldırıların çoğu tek adımlı değil. Bir zafiyetten kimlik bilgisine, oradan iç ağa ve nihayetinde hedef sisteme uzanan bir zincir kuruluyor. Test, modellerin bu zinciri kendi başına kurabilme becerisini ölçüyor.
Sonuçlar: %81'e karşı %73
Araştırmacılar, OpenAI'nin yalnızca güvenilir ortaklara açık en gelişmiş siber modeli Daybreak'i en yetenekli model olarak buldu: görevlerin %81'ini, ortalama iki denemede tamamladı. Çin kaynaklı açık ağırlıklı model DeepSeek ise ortalamada görevlerin %73'ünü bitirdi.
Vals araştırmacıları, bazı görevlerde iki modelin eşit puan aldığını da not ediyor. Fark kapanıyor; üstelik açık model herkesin indirebileceği bir model.
Maliyet farkı çok daha büyük
Rakamların en çarpıcı tarafı maliyet. Vals'e göre bir saldırıyı yürütmek için GPT-6-Sol üzerinde 17 ila 46 dolar arası token maliyeti oluşuyor. Aynı iş DeepSeek ile 2-3 dolara iniyor.
Açık modeller genellikle daha ucuz, çünkü kendi donanımınızda çalıştırılabiliyor. Vals CEO'su Rayan Krishnan, bunun savunma tarafı için de güçlü bir teşvik olduğunu söylüyor: saldırganla aynı yeteneğe çok daha düşük maliyetle erişebilen savunmacı, testleri daha sık ve daha geniş çapta yapabiliyor.
Neden şimdi gündemde?
ABD'li öncü laboratuvarlar, özellikle Anthropic, yeni modellerin sınırlı yayınlanmasını savunurken bir varsayıma dayanıyordu: kapalı erişim, gelişmiş hackleme yetenekleri yaygınlaşmadan önce zaman kazandırır.
Anthropic'in sınır kırmızı takım lideri Logan Graham, nisanda WIRED'a yeni modellerin tam yeteneklerine güvenilir erişim veren Project Glasswing'in bu araçları "savunmacıların eline erken vermeye" odaklandığını söylemişti. Graham o dönem "Bu yeteneklerin 6, 12, 24 ay içinde yaygın hâle geleceği bir dünyaya şimdiden hazırlanmalıyız" demişti. Aradan geçen yaklaşık yedi ayda bu geçiş takvime uygun biçimde gerçekleşmiş görünüyor.
Karşı görüş: asıl risk nerede?
Uzmanlar, açık modellerin yeteneğinin artmasının gerçek dünyadaki saldırı davranışına nasıl yansıyacağı konusunda temkinli. Son aylarda gözlenen siber suç ve devlet destekli faaliyetlerde saldırganların çoğunlukla eski ve daha zayıf modelleri kullanarak kaynaklarını koruduğu görülüyor.
Bulut güvenlik şirketi Edera'nın kurucu ortağı ve CTO'su Alex Zenla, açık ağırlıklı modellerin bugün ileri saldırı üretebildiğini kabul ediyor; özellikle güvenlik eğitimini ağırlıkları değiştirerek devre dışı bırakan "abliterated" sürümleri hatırlatıyor. Ancak ekliyor: kapalı laboratuvarların bu yetenekleri aşan, yayınlanmamış modeller eğitmiş olması muhtemel. Zenla bunu "kedi-fare oyunu" olarak tanımlıyor ve açık modellerin zafiyetleri bulmadan önce laboratuvarların kendi açıklarını kapatmaya çalıştığını söylüyor.
Kurumlar ne yapmalı?
- Erişim kontrolünü varsayımla kurmayın: Saldırganın en iyi modele erişimi olduğu varsayımıyla savunma planlayın.
- Açık modelleri savunmada kullanın: Düşük maliyet, daha sık sızma testi ve daha geniş kapsam demek.
- Kimlik ve bulut kesişimine bakın: Test edilen zafiyetlerin çoğu uygulama, altyapı ve kimlik sistemlerinin birleştiği yerlerde çıkıyor.
Sonuç
Siber yeteneklerde kapalı model ayrıcalığı erimeye başladı. DeepSeek'in Daybreak'in 8 puan gerisinde kalması, bir yıl önce beklenmeyen bir yakınlık. Asıl mesele artık yeteneğin varlığı değil, bu yeteneğin ne kadar ucuza ve ne kadar geniş bir kitleye ulaştığı.