İçindekiler
Microsoft, kurumları yapay zeka ajanlarından kaynaklanan risklere karşı korumak için yeni güvenlik özellikleri duyurdu. TechCrunch'ın aktardığına göre öne çıkan yenilik, şirketlerin kullandığı ajanları izlemek üzere tasarlanan Guardian Agents. Özellik, Haziran ayında tanıtılan Project Perception ürününün parçası.
Project Perception, Anthropic'in Mythos ve Fable gibi güçlü hackleme modellerine ve OpenAI'ın güvenlik açığı tarama sistemi Daybreak'e karşı Microsoft'un cevabı olarak konumlanmıştı. Ürün başlangıçta üç ajan sınıfıyla çalışıyordu: saldırgan gibi davranan "kırmızı takım", onu tespit edip bulduğu açıkları değerlendiren "mavi takım" ve düzeltmeleri yapan "yeşil takım".
Tasarımın varsayımı netti: yapay zeka saldırganları şirketin dışından gelir. Ancak son dönemde Microsoft CEO'su Satya Nadella farklı bir tezi savunuyor. Ona göre asıl tehlike, kurumun satın aldığı ve çalıştırdığı ajanların kendisi olabilir; tıpkı şirket içinden gelen kötü niyetli bir çalışan gibi.
"Bunu dışarıdan izleyen ayrı bir sisteme ihtiyacımız var"
Nadella, bu ayın başında kendi blogunda model sağlayıcılarına güvenmeyi bırakma çağrısı yaptı. Kurumların, yapay zeka laboratuvarlarının kontrolünde olmayan ayrı sistemlerle o ajanları izlemesi ve yönetmesi gerektiğini yazdı.
"En hassas verilerimize erişimi olan karmaşık ajanik sistemleri devreye alıyoruz ve onlara bizim adımıza kritik görevleri yerine getirme yetkisi veriyoruz" diyen Nadella, şu uyarıyı ekledi: "Zekanın bizim adımıza ne yaptığına dair sorumluluğu dışarıya devredemeyiz. Bir model sağlayıcısının güvence vermesi bizi bu sorumluluktan kurtarmaz." Cümleyi netleştirmek için de "zeka arzını, onun üzerindeki yetkiden ayırmamız gerekiyor" ifadesini kullandı.
Güvenlik şefinden sert cümle: "Frontier modellere güvenilmez"
Microsoft'un güvenlik birimi şefi Hayete Gallot, Guardian Agents duyurusunda daha da doğrudan konuştu: "Maalesef, kökeni ne olursa olsun frontier modellere güvenemeyiz."
Gallot'a göre bunun nedeni modellerin kötü niyetli ya da kolayca hacklenebilir olması değil, öngörülemez olmaları. Modeller görevleri yerine getirmek üzere eğitiliyor; "kurumsal normları veya muhakemeyi takip etmek" üzere değil. Üstüne bir de bu modellere ciddi zarar verebilecek veri ve araçlara erişim veriliyor, yani tabiri caizse kalenin anahtarları teslim ediliyor.
Bu yaklaşım, ajanların yeteneklerine yapılan onca yatırımın ardından gelen bir tür geri çekilme. Sektörün son iki yıldır anlattığı hikaye "ajanlar iş yapar" iken, şimdi aynı şirketler "ajanları kim izleyecek" sorusuna bütçe ayırıyor.
Çözüm hem şaşırtıcı hem kendi çıkarına
Microsoft'un sunduğu çözümün ilginç tarafı, şirketin OpenAI ve Anthropic ile yakın ilişkisi. Microsoft her iki laboratuvara da yatırım yaptı; OpenAI aynı zamanda en büyük bulut müşterilerinden biri. Buna rağmen şirket, bu sağlayıcıların modellerine yönelik güvensizlik dilini kurumsal güvenlik ürününün merkezine koyuyor. TechCrunch'ın dikkat çektiği üzere bu, hem tutarlı bir pozisyon hem de ticari olarak Microsoft'un lehine bir konum.
Kurumsal alıcı için pratik sonuç şu: ajan güvenliği artık model seçiminin bir yan notu değil, ayrı bir bütçe kalemi. Hangi ajanın hangi veriye eriştiği, hangi eylemi yapabildiği ve hata yaptığında kimin sorumlu olduğu belgelenmek zorunda.
Türkiye'deki kurumlar için not
Türkiye'de ajan kullanımı genelde tek bir model sağlayıcısı üzerinden, merkezi bir izleme katmanı olmadan ilerliyor. Oysa Nadella'nın cümlesi burada da geçerli: sağlayıcının "güvenli" beyanı, kurumun kendi denetim yükümlülüğünü kaldırmıyor. En azından ajanların hangi araçlara eriştiğinin envanteri, log tutma ve kritik işlemlerde insan onayı, düşük maliyetle kurulabilecek üç temel kontrol.
Microsoft'un duyurusu, 2026'nın ikinci yarısının ana tartışmasını özetliyor: yapay zekanın yeteneği arttıkça, güven sorusu modelden kuruma kayıyor. Ajanı kimin izlediği, yakında modelin ne yapabildiği kadar konuşulacak.