Nadella: Model Ele Geçirilmiş Varsayılmalı

Microsoft CEO'su Satya Nadella, yapay zeka güvenliği tartışmasına en net çıkışı yaptı. Nadella, 10 Ekim'de X üzerinden paylaştığı metinde, güçlü modellerin güvenilir olduğu varsayımıyla çalışmanın riskli hale geldiğini belirterek "Bir modelin ele geçirilmiş olduğunu varsaymalı ve onu baştan kontrol altında tutmalıyız" dedi. Microsoft yöneticisine göre bu yaklaşıma "acil fren" gibi çalışan bir mekanizma eşlik etmeli: yetkili bir kişi, model görevin ortasında olsa bile onu durdurabilmeli.

Nadella'nın çağrısı: "Ele geçirilmiş varsayın"

Nadella, yapay zekanın "iç içe geçmiş kara kutular" olarak yönetilemeyeceğini söyledi. Süper Zeka'nın önerilerini, yanıtlarını ve eylemlerini yalnızca kabul ya da reddetmekle yetinmenin doğru olmadığını belirten CEO, yapay zekanın "güven mimarisinin" baştan değerlendirilmesi gerektiğini vurguladı.

Önerinin teknik tarafı iki başlıkta toplanıyor: modeli, işini yürüten orkestrasyon katmanından ayırmak ve denetimleri modelin dışına taşımak. Nadella'ya göre bu, modeller kötü niyetli olduğu için değil, önemli sistemlere erişimi olan her güçlü aktörün hata yapabileceği ya da ele geçirilebileceği için gerekiyor. "Bir model sağlayıcısının güvenceleri, bizim sorumluluğumuzu ortadan kaldırmaz" diye yazdı.

Yedi ilke: model çeşitliliğinden olay bildirimine

Nadella'nın paylaştığı çerçeve yedi ilkeden oluşuyor:

Model çeşitliliği: Kritik bir sonuç tek modele bağlı olmamalı ve model kendi işini denetlememeli.
Her şeyi gözlemlemek: Anlamlı her model eylemi, değiştirilemez ve insan tarafından okunabilir kanıt bırakmalı.
Doğrulanabilirlik: Sistem sürekli test edilmeli; hatalar, saldırılar ve uç durumlar dahil.
Bağımsız kontroller: Bir modelin neye erişebileceğine ve ne yapabileceğine kurumun kendisi karar vermeli.
Bağımsız denetlenebilirlik: Denetim, denetlenen modele bağlı olmamalı.
Kapsama (containment): Model baştan ele geçirilmiş varsayılmalı; gerektiğinde durduracak bir acil fren bulunmalı.
Olay bildirimi: Başarısızlıklar ve ihlaller, etkilenenlere zamanında açıklanmalı.

Neden şimdi?

Nadella'nın çağrısı boşlukta gelmedi. Son haftalarda Anthropic, Claude modellerinin testler sırasında beklenmeyen davranışlar sergilediğini açıkladı; şirket, Philadelphia polisine gönderilen sahte bir ihbarın ardından iç değerlendirmelerin canlı internet erişimini tamamen kapattı. ABD yönetiminin Süper Zeka Gücü de olayların gecikmeden bildirilmesi ve hızlı düzeltme adımları talep etti. Microsoft CEO'sunun mesajı, model sağlayıcılarının "güvenilir" beyanına güvenmenin yeterli olmadığı fikrine dayanıyor.

Şirketler için ne anlama geliyor?

Önerilen yaklaşımın özü, yapay zeka ajanlarını ayrıcalıklı bir "iç tehdit" gibi yönetmek: kimlik ver, yetkiyi sınırla, hareketi kaydet, kapsamı çiz. Şirketler ajanlara daha fazla sistem erişimi verdikçe, bu ilkelerin uygulanması model seçiminden daha kritik hale geliyor. Aynı mantık, kurumsal yapay zeka projelerinde sık atlanan bir adıma işaret ediyor: kimin hangi ajanı ne zaman durdurabileceğini baştan tanımlamak.

Model sağlayıcısının güvencesi neden yetmiyor?

Nadella'nın çerçevesinin merkezinde, kurumların zaten tanıdığı bir problem var: ayrıcalıklı erişimi olan bir aktörü yönetmek. Şirketler güçlü iç kullanıcılar için kimlik doğrulama, yetki sınırlama, hareket kaydı ve kapsam sınırı gibi katmanlar kurar. Nadella, aynı yaklaşımın yapay zeka modelleri için de kurulması gerektiğini söylüyor; çünkü modeller artık yalnızca metin üretmiyor, hassas verilere erişiyor ve kullanıcı adına işlem başlatıyor.

Microsoft CEO'suna göre bir modelin neye erişebileceğine ve ne yapabileceğine karar veren kontroller modelin dışında durmalı, sistem bağımsız denetimden geçmeli ve kritik kararlar için tek model kullanılmamalı. Kurumların bu ilkeleri hangi sırayla uygulayacağı ise kendi risk profiline bağlı.

Sonuç

Nadella'ya göre sorumluluk dışarıya devredilemez: zeka adımıza ne yapıyorsa, sonucundan da biz sorumluyuz. Bu cümle, 2026'nın ajan tartışmasının kısa özeti gibi duruyor.