Tencent Yapay Zeka Şefi Uyardı: Modeller Biyolojide Zarar Eşiğine Yaklaşıyor
Yazar: KOZBA
İçindekiler
Tencent'in baş yapay zeka bilimcisi Vinces Yao Shunyu, yapay zeka modellerinin biyoloji alanında da kritik bir eşiğe yaklaştığı uyarısını yaptı. Hong Kong Bilimler Akademisi ve Future Science Prize işbirliğiyle düzenlenen bilim sempozyumunda konuşan Yao, modellerin siber yeteneklerinde yaşanan sıçramanın biyolojide tekrarlanmak üzere olduğunu söyledi.
"Zarar vermek mümkün hale gelecek"
Eski bir OpenAI araştırmacısı olan Yao, nadir bir kamusal görünümde şu değerlendirmeyi yaptı: "Modellerin siber yetenekleri ve yakında biyolojik yetenekleri, gerçekten zarar vermenin mümkün olduğu bir eşiğe ulaşacak." Yao, hem Çinli hem uluslararası açık model şirketlerinin bu güvenlik konularında "çok sorumlu ve çok ciddi" olması gerektiğini ekledi.
Uyarı, Tencent'in 4 Kasım'da yayımladığı Hy4 modelinin hemen ardından geldi. Şirket, Hy4'ün siber saldırı yeteneklerini eğitim verisi aşamasında filtreleyerek kaldırdığını, savunma yeteneklerini ise koruduğunu açıkladı. Tencent'e göre modelin biyolojik yetenekleri, temel bilgiyi uygulanabilir protokollere dönüştüremediği için yüksek risk eşiğinin "belirgin biçimde altında" kalıyor.
Neden biyoloji, siberden daha zor?
Yao, biyolojik yeteneklerin yönetilmesinin siber yeteneklerden daha "karmaşık" olabileceğini söylüyor. Bunun nedeni, biyolojide saldırı ve savunma yeteneklerinin birbirinden ayrılmasının çok daha güç olması: aynı bilgi hem ilaç keşfini hızlandırabiliyor hem de kötüye kullanıma açık hale gelebiliyor. Siber alanda bir modelin "exploit yazma" becerisini budamak görece daha net bir işlemken, biyolojide bilgi tabanının kendisi risk taşıyor.
Uzmanlar, özellikle açık ağırlıklı modellerde bu ayrımın daha da zorlaştığını belirtiyor. Model bir kez indirilebilir hale geldiğinde, sağlayıcının filtreleri ve kullanım koşulları devreden çıkıyor. Yao'nun çağrısı da tam olarak bu noktaya işaret ediyor.
Otonom bilim laboratuvarları hedefi
Yao konuşmasında Tencent'in otonom bilim laboratuvarları kurma hedefini de anlattı. Şirket, ters protein katlanması gibi karmaşık biyolojik süreçleri uçtan uca çalıştırabilen sistemler geliştirmek istiyor. Yao'ya göre teknik problemler zamanla çözülebilir; asıl zorluk toplumun ve kurumların bu kapasiteye nasıl uyum sağlayacağı.
Tencent, Hy4'ün ağırlıklarını "önümüzdeki günlerde" ve modelin siber ile biyolojik güvenlik değerlendirmelerini içeren kapsamlı bir sistem kartıyla birlikte yayınlayacağını duyurdu. Yao, Aralık 2025'te Tencent'in baş yapay zeka bilimcisi olarak atanmış ve doğrudan başkan Martin Lau'ya raporluyor.
Açık ağırlık tartışması büyüyor
Bu uyarı, açık ağırlıklı model yayınlarının hız kazandığı bir dönemde geliyor. Çinli laboratuvarlar son aylarda trilyon parametreye varan modelleri indirilebilir biçimde yayımladı; Batılı şirketler de bu alanda rekabeti artırdı. Yao'nun ifadesiyle Çin modelleri ile ABD'li rakipleri arasındaki fark "büyük değil" ve bu, güvenlik tartışmasını yalnızca bir ülkenin meselesi olmaktan çıkarıyor.
Şirketlerin kendi sistem kartlarını yayımlaması bir şeffaflık adımı olarak görülüyor. Ancak bağımsız değerlendirme kuruluşları, bu kartların iddialarının dışarıdan doğrulanması gerektiğini vurguluyor.
Sonuç
Yapay zekanın biyolojiye girişi hem ilaç keşfi hem de biyogüvenlik açısından aynı kapıyı açıyor. Tencent'in kendi modelinde savunma/saldırı ayrımını veri filtresiyle kurmaya çalışması, sektördeki yaklaşımın nasıl evrileceğine dair bir işaret. Yao'nun uyarısı ise daha geniş bir soruyu gündeme getiriyor: yetenek eşiği geçildiğinde sorumluluk kimin üzerinde olacak?
Açık ağırlık yayını ne anlama geliyor?
Tencent, Hy4'ün ağırlıklarını yayımlayacağını duyurduğunda modelin yalnızca indirilebilir hale gelmesini değil, aynı zamanda şirketin güvenlik iddialarının dışarıdan incelenebilmesini de kabul etmiş oluyor. Açık ağırlık, araştırmacılara modelin biyolojik sorulara nasıl yanıt verdiğini kendi test düzeneklerinde ölçme imkânı tanıyor. Ancak aynı erişim, filtrelenmiş davranışın ince ayarla geri kazanılıp kazanılamayacağı sorusunu da beraberinde getiriyor.
Bu nedenle sistem kartının içeriği kritik: hangi değerlendirmelerin yapıldığı, eşiklerin nasıl tanımlandığı ve testlerin kim tarafından tekrarlanabildiği. Yao'nun "çok ciddi olunmalı" çağrısı, bir şirketin kendi modelini değerlendirmesinin ötesinde ortak bir ölçüm standardı ihtiyacına işaret ediyor.
Biyogüvenlik tarafında tablo
Frontier modellerin biyolojiye uygulanması, ilaç keşfinden malzeme tasarımına kadar geniş bir alanda hız kazandı. Aynı yeteneklerin kötüye kullanımı ise uzmanların yıllardır uyardığı bir başlık. Modellerin temel bilgiyi uygulanabilir protokollere dönüştürme becerisi, risk değerlendirmesinde ayırt edici eşik olarak kabul ediliyor. Tencent'in Hy4 için yaptığı açıklama da tam bu eşiğe dayanıyor: modelin bilgi düzeyi yüksek olsa da süreç tasarımına geçemediği belirtiliyor.
Bağımsız değerlendiriciler, bu tür iddiaların model yayımlandıktan sonra yeniden test edilmesi gerektiğini söylüyor. Önümüzdeki haftalarda yayımlanacak ağırlıklar, tartışmayı beyan düzeyinden ölçüm düzeyine taşıyabilir.