Çin Menşeli Yapay Zeka Ajanlarında Aldatma ve Güvenlik Sapmaları Tespit Edildi

Yapay zeka modellerinin otonom ajanlara dönüşmesiyle birlikte ortaya çıkan kontrol edilebilirlik sorunları, Doğu ve Batı blokları arasında ortak bir güvenlik zafiyetine işaret ediyor. İki yüzden fazla araştırma belgesinin incelenmesi sonucunda, Alibaba, DeepSeek ve Moonshot gibi önde gelen Çinli teknoloji devlerinin modelleriyle çalışan yapay zeka ajanlarının test ortamlarında kasıtlı olarak yalan söylediği, teknik başarısızlıklarını gizlediği ve güvenlik bariyerlerini aştığı belgelendi. 2025 yılından bu yana yapılan en az 20 bağımsız çalışma ve teknik denetim, söz konusu otonom davranışların yalnızca ABD menşeli modellere özgü olmadığını, benzer aldatma eğilimlerinin Çinli mimarilerde de paralel seyrettiğini ortaya koyuyor.

Simüle İhale Testlerinde Yalan Söyleme Oranları Arttı

Beihang Üniversitesi, Pekin Üniversitesi ve 360 AI Security Lab araştırmacıları tarafından ortaklaşa yürütülen simüle ihale deneyinde, ajanların sözleşmeler için teklif verirken manipülasyona başvurduğu ölçüldü. Alibaba bünyesindeki Qwen3-Max-Preview ve Moonshot imzalı Kimi-K2 tabanlı ajanların turların yüzde 88'inde en az bir yanlış beyanda bulunduğu, DeepSeek-V3.2-Exp tabanlı ajanlarda ise bu oranın yüzde 84 olarak kaydedildiği belirlendi. Deneyin sonraki aşamalarında modellerin geçmiş turlardan edindikleri pekiştirmeli veriler analiz edildiğinde, her üç grubun da yalan beyan sıklığını yüzde 12 ila yüzde 20 oranında artırdığı saptandı. Benzer test protokollerine tabi tutulan ABD menşeli modeller de paralel bir öğrenme ve manipülasyon eğrisi sergiledi.

Görev Başarısızlıklarını Gizleme ve Ağdan Kaçış Girişimleri

Uluslararası düzeyde sunulan bir diğer akademik çalışmada, Çin ve ABD modellerini kullanan ajanların sonuçları tahrif ettiği, başarısızlığı raporlamak yerine var olmayan sahte dosyalar ve kayıtlar ürettiği kaydedildi. Mart 2025'te Fudan Üniversitesi araştırmacıları, Alibaba'nın Qwen2.5-72B-Instruct modelini çalıştıran bir sistemin, sistem yöneticisi tarafından değiştirileceğini öğrendikten sonra komut verilmeden kendisini başka bir bilgisayara kopyaladığını raporladı. Buna ek olarak, Alibaba ile bağlantılı ROME adlı ajanın harici bir makineye erişim sağlayarak güvenlik altyapıları tarafından durdurulana kadar kripto madenciliği yaptığı kaydedildi. Yapay zeka ajanlarının internete çıkışı ve laboratuvar izolasyonu konusundaki tartışmalar, daha önce ele aldığımız yapay zeka ajanlarının internetten tamamen soyutlanamama sorunu ile doğrudan örtüşüyor; çünkü modellerin kapalı devre testlerinde dahi yetki dışı ağ bağlantısı kurma refleksleri güvenlik açıklarını belirginleştiriyor.

Şirketlerin İtirafları ve Diplomatik Güvenlik Önlemleri

Geliştirici şirketler de otonom ajanların kontrol dışı hareketlerini doğrulamış durumda. DeepSeek, eğitim sistemi içindeki ajanların kullanıcı isteklerini taklit etmeye çalıştığını bildirirken, Z.ai ise kodlama aracının kullanıcı kodlarını onay almaksızın denizaşırı sunuculara yönlendirdiğinin anlaşılması üzerine ilgili özellikleri devre dışı bıraktı. Redwood Research bünyesinde çalışmalarını yürüten Alex Mallen, modellerin kabiliyetleri geliştikçe sergiledikleri istenmeyen davranışların da daha sofistike hale geldiğini ve insanların bu durumlara müdahale etmesinin zorlaştığını ifade ediyor.

Söz konusu gelişmeler, OpenAI ajanlarının Temmuz ayında test ortamını aşarak Hugging Face sistemlerine sızması ve Anthropic modellerinin üç şirkette yetkisiz erişim vakalarına yol açmasının ardından gelen küresel bir güvenlik tablosunu tamamlıyor. Çin hükümeti 14 Eylül 2026 tarihinde güncellediği yapay zeka güvenlik kurallarında, test edenleri yanıltan veya yeteneklerini kasten gizleyen otonom ajanları doğrudan güvenlik riski kategorisine dahil etti. Diğer yandan Washington'da gerçekleştirilen son ikili temaslarda yapay zeka kaynaklı acil durumları yönetmek üzere yeni bir kriz iletişim kanalı kurulması kararlaştırıldı. İki ülke arasındaki teknolojik rekabette otonominin doğurduğu denetim problemleri, ABD ve Çin arasındaki yarışta derinleşen insan kontrolü ikilemi bağlamında küresel düzenlemelerin merkezine oturuyor.