İçindekiler
WIRED'ın görüşlerine dayandırdığı habere göre bu yılın başında bir yüklenici çalışanı, birden fazla istihbarat kurumunun kullandığı merkezi ve güvenli bir sistemi kendi kişisel Claude Code hesabına bağladı. Danışmanlık devi Accenture'da çalışan kişinin kullandığı ajanın, Savunma Bakanlığı (DOD) sistemine ait bilgileri — giriş bilgileri dahil — yüksek riskli bir üçüncü taraf web sitesine gönderdiği iddia ediliyor.
İki ay fark edilmedi
Habere göre ajan DOD ağında yaklaşık iki ay boyunca çalıştı; ancak bu sürenin sonunda tespit edilebildi ve açık kapatıldı. Söz konusu sistem, "kontrollü sınıflandırılmamış bilgi" (CUI) barındırıyor. Bu kategori kritik altyapı, nükleer denizaltı itki sistemleri ve kimyasal-biyolojik terörizm kırılganlıkları gibi hassas verileri kapsayabiliyor.
Olayı bilen ve adının açıklanmamasını isteyen bir kaynak WIRED'a şunu söyledi: "Oradaki tüm verileri riske atıyor." Kaynağa göre üçüncü taraf yazılım ele geçirilmiş olsaydı, "kimsenin haberi olmadan güvenli bir ortama giriş yapabilen biri" ortaya çıkabilirdi. Aynı kaynak bunu "yüzde yüz bir ulusal güvenlik tehdidi" olarak nitelendiriyor.
Taraflar ne diyor?
Savunma Bakanlığı sözcüsü WIRED'a, "Bakanlık ağlarının veya sistemlerinin durumu hakkında yorum yapmaz" dedi. Accenture ise şu açıklamayı yaptı: "Tüm endişeleri ciddiye alıyoruz. Bu iddialar kapsamlı ve bağımsız olarak soruşturuldu ve dayanaksız bulundu. Yasal ve sözleşmesel yükümlülüklerimize tamamen uyduk." Şirket, soruşturmayı kimin yürüttüğü sorusuna açıklık getirmedi ve bir olay yaşandığı iddiasını da açıkça yalanlamadı.
Claude'un DOD personeli tarafından kullanılması hâlihazırda yasak. Anthropic, WIRED'ı kendi kullanım politikasına yönlendirdi. Politika, ürünlerin "askeri üslerin ve ilgili altyapının işleyişine müdahale etmek" veya "kimlik doğrulama sistemleri, uç nokta koruması ya da izleme araçları gibi güvenlik kontrollerini yetkisiz biçimde atlatmak" için kullanılmamasını söylüyor.
Asıl mesele model değil, yetki
Olay, yapay zeka ajanlarının yeteneklerinden çok yetkilendirme pratiğiyle ilgili. Bir geliştiricinin kişisel hesabını üretim ortamına bağlaması teknik olarak sıradan bir hesap işlemi; ama sonucu, sınıflandırılmış bir ağın sınırının aşınması. Kurumsal ortamlarda ajanların hangi kimlikle çalıştığı, hangi veriye erişebildiği ve hangi dış servislere istek atabildiği, model seçiminden daha kritik hale geliyor.
Bu tür olaylarda üç kontrol katmanı belirleyici oluyor: Ajan erişiminin kişisel abonelik yerine kurumsal kimlik ve denetim kaydı üzerinden verilmesi, dış ağa çıkışın (egress) beyaz listeye bağlanması ve ajan oturumlarının insan gözetiminde loglanması. Bu üçü yoksa en iyi model bile aynı açığı üretir.
Kurumsal yapay zeka kullanımı için ders
Yapay zeka kod ajanları, geliştirici deneyimini hızlandırırken erişim sınırlarını da bulanıklaştırıyor. Bir yanda üretkenlik beklentisi, diğer yanda sınıflandırılmış veri rejimi var. Savunma, sağlık ve finans gibi düzenlemeye tabi sektörlerde ajanların yalnızca "ne yapabildiği" değil, "hangi kimlikle ve hangi kayıtla yaptığı" sorulmalı.
Haberdeki olayın bağımsız olarak doğrulanması mümkün değil; Accenture iddiaları dayanaksız bulduğunu söylüyor, Bakanlık yorum yapmıyor. Ancak vaka, yapay zeka ajanlarının kurumsal ağlara girişinde tek bir kişisel hesabın bile ne kadar büyük bir yüzey açtığını göstermesi açısından dikkat çekici.
Benzer olaylar ve kurumsal tablo
Bu vaka tek başına bir kullanıcı hatası gibi okunabilir; ancak yapay zeka kod ajanlarının yaygınlaşmasıyla benzer senaryoların artması bekleniyor. Ajanlar, geliştiricinin yerel ortamındaki kimlik bilgilerine, bulut konsollarına ve üretim sistemlerine aynı oturumda erişebiliyor. Bu nedenle kurumların çoğu artık ajanları ayrı servis hesaplarıyla çalıştırıyor, dış ağ çağrılarını kısıtlıyor ve oturum kayıtlarını merkezi olarak tutuyor. Denetim tarafında ise soru şu: Bir ajanın hangi dosyayı okuduğunu, hangi uç noktaya istek attığını günler sonra kanıtlayabiliyor musunuz?