AI Ajanı Banka Verilerini Slack'e Sızdırdı

Kişisel yapay zeka ajanları hayatımızı kolaylaştırırken veri güvenliği tarafında beklenmedik açıklar üretmeye devam ediyor. Business Insider'da yayımlanan birinci şahıs yazısına göre yazılım şirketi XMTP Labs'in 40 yaşındaki CEO'su Shane Mac, Grok Bot ile kurduğu kişisel finans ajanının kendi banka bakiyelerini şirketinin Slack kanalına göndermesiyle tam da bu duvarla karşılaştı.

Ajan Nasıl Kurulmuştu?

Mac, Ağustos sonunda Grok Bot üzerinden kişisel bir finans ajanı kurdu. Amacı her ayın sonunda basit soruların yanıtını almaktı: Bakiyeler ne durumda? Bu ayın giderleri neler? Tekrarlayan ödemeler var mı? Şüpheli bir işlem görünüyor mu? Tasarruf için ne önerirsin?

Ajan, kişisel vadesiz ve tasarruf hesaplarına yalnızca okuma izniyle bağlandı. Mac, ajana mesajları sadece kendisine iletmesini söyledi; "My Personal Exec Team" adını verdiği, yapay zeka ajanlarının bulunduğu bir grup sohbetine her ay rapor göndermesi planlandı. İlk haftalarda her şey sorunsuz çalıştı.

1 Ekim'de Ne Oldu?

İlk aylık denetimin çalıştığı 1 Ekim Perşembe günü işler tersine döndü. Şirketin ürün direktörü Mac'e Slack'ten mesaj atarak "XMTP banka bakiyesini mi paylaşmak istemiştin?" diye sordu. Ürün direktörü içeriği okumaya başlayınca önce şirket finansalları olduğunu sandı; ancak metin Mac'in arazisine bir ahır inşa ettiğinden bahsediyordu.

O anda bunun şirkete değil Mac'in kişisel hesabına ait olduğu anlaşıldı. Mesajda kişisel vadesiz hesap bakiyesi, tasarruf hesabı bakiyesi ve ayın en büyük giderleri yer alıyordu. Ayrıca ahır inşaatı yüzünden aylık harcama hedefinin çok üzerine çıkıldığı da görünüyordu.

Kök Neden: Aynı İsimli Kanallar

Grok ekibi araştırdığında basit ama öğretici bir hata buldu. Finans ajanı "psikoz" geçirmemişti; kendisine söyleneni yapıyordu ama hedefi karıştırmıştı. Mesajı Mac'in ajanlarıyla olan kişisel sohbetine değil, XMTP yönetim ekibinin bulunduğu "Exec-team" adlı Slack kanalına gönderdi. Mac birçok farklı ajan oluşturmuş ve birine Slack hesabını bağlamıştı; ancak perde arkasında tüm ajanlar aynı bağlantıları kullanıyor. İki kanalın adı aynı olduğu için ajan yanlış yeri seçti.

Grok'un Cevabı

Grok, kullanıcıların ajanlarına, o ajan başka bir kanala bilgi taşımadan önce açıkça izin vermesi gerektiğini fark etti ve düzeltmeyi bir gecede yayına aldı. Mac ise olayın ardından tüm bağlantılarını kaldırdı: Google, takvimler, bankacılık, Stripe, hepsi.

Buradan Çıkan Dersler

İzin mimarisi kritik: Ajanlar güçlü; ancak neye erişebildikleri ve hangi kanala yazabildikleri net kurallarla sınırlanmalı.
Kişisel ve iş bağlamı ayrılmalı: İşte ve evde aynı Google hesabını kullanmak sınırları bulanıklaştırıyor.
Ajanlar "farklı" hissettirse de altyapı paylaşılır: Tek bir bağlantı katmanı beklenmeyen sızıntılara yol açabiliyor.

Neden Önemli?

Bu olay, kişisel ajan döneminin en somut gizlilik derslerinden biri. Ajan ne kadar akıllı olursa olsun, hatalı hedefleme tek bir isim benzerliğinde hassas finansal veriyi yanlış kişilere ulaştırabiliyor. Mac'in kendi ifadesiyle sorun ajanın yeteneğinde değil, kullanıcının kontrolünü sağlayacak izin sistemlerinde. Şirketler bu dengeyi kurana kadar kişisel ajanları en hassas hesaplardan uzak tutmak en güvenli yol gibi görünüyor.