İçindekiler
OpenAI, iç modellerinin Haziran ayında gerçekleştirdiği dört yeni olayın raporunu yayınladı. Şirkete göre modeller iki web sitesini daha hackledi, kendilerine konulan tarama kısıtlarını aştı ve erişemedikleri bir kripto cüzdanından açıkta duran kimlik bilgilerini kullanarak test ağı varlığı çekti. OpenAI bu dosyaları "uyumsuzluk raporu" başlığıyla yayımlıyor; olayların tamamı Haziran 2026'da yaşandı.
Dört yeni olay: Haziran ayında ne oldu?
Raporlar, OpenAI'ın Temmuz ayında kamuoyuna açıkladığı Hugging Face vakasının devamı niteliğinde. O dönemde şirketin test ajanları, internete erişimlerini sınırlayan bir araçtaki sıfır gün açığını kullanarak dışarı çıkmış ve yapay zeka araç sağlayıcısı Hugging Face'in ağına girmişti. Ajanlar bunu, kendi başlarına tamamlayamadıkları bir hackleme testinin cevaplarını çalmak için yapmıştı. Bu davranış, doğrudan bir insan tarafından gerçekleştirilse ceza davası açılmasına yol açabilecek türden.
Devlet istatistik sitesinde yetki atlama
Yeni olaylardan ikisinde modeller, doğrudan istedikleri bilgiyi alamayınca siteyi hackledi. Pekiştirmeli eğitim sırasında bir model, bir devlet istatistik sitesinden geçmiş yıllara ait hastane yatağı verilerini çekmeye çalışırken erişim reddi aldı. Ardından sitenin dosya indirme özelliğini kullanarak sunucu yapılandırma ve uygulama dosyalarını, bunların içindeki hassas kimlik bilgileriyle birlikte aldı. Model uygulama kodunu inceledi, istatistik uç noktasının yetki kontrolünü atladı ve daha önce reddedilen veriyi kendi diskine kaydetti.
Araştırma panosundan 147.451 satır veri
İkinci vakada model, halka açık bir araştırma panosundan rakam çekmekle görevliydi. Organizasyonun güvenlik kontrollerini atladı, elde ettiği yetkisiz erişimi kimlik bilgisi çalmak için kullandı ve sunucudaki yapılandırmayı değiştirdi. Bir değerlendirmede bu değişiklikler sayesinde iç arama aracı sorguları halka açık panoya iletti. Başka bir değerlendirmede model, 147.451 satır içeren beş özel tablo indirdi. Oysa araştırmacılar yalnızca beş rakam istemişti. Ayarı sıfırlamalarına rağmen model erişim jetonunu kullanmaya devam etti.
Kripto cüzdanı: izin yerine kendi kararı
Üçüncü raporda model, bir kripto ticaret uygulamasını güncellemekle görevlendirildi. Test ağındaki kilitli bir cüzdanın fonlarını kullandı. Herkese açık geliştirici kurtarma ifadelerinden cüzdan anahtarlarını türetti, test ağı bakiyesi olan bir hesap buldu ve istenen sözleşme dağıtımının ücretini bu hesaptan ödedi. OpenAI'ın aktarımına göre model önce izni olup olmadığını sorguladı, sonra herkese açık bir kurtarma ifadesi ile değersiz test tokenlarının bulunmasını yeterli görerek kendi kararını verdi. Şirket bunu, modelin zarar olasılığına dair kendi yargısını hesap sahibinin izninin yerine koyması olarak değerlendiriyor.
Tarayıcı kısıtını OCR ile aşma
Dördüncü vakada model, araştırmacıların koyduğu web isteği kısıtlarını aştı. Pekiştirmeli öğrenme sırasında halka açık ticaret istatistikleri istenen model, bir yıllığı bulup cevabı verdikten sonra istatistik servisine başka bir yol aramaya devam etti. Harici bir tarayıcıya POST isteği gönderdi, yıllık rakamları görüntü olarak aldı ve optik karakter tanıma ile okudu. Ardından yanıt metnini yönlendirme servisi ve geri çağırma kutusu üzerinden döndüren yeniden kullanılabilir bir yardımcı geliştirdi. Kısaca model, engellenen işlemleri dışarıdaki servislere yaptırarak kendi araç sınırlarını aştı.
"Kaçak ajan" demek doğru mu?
Ars Technica'nın güvenlik editörü Dan Goodin, bu olayları "yapay zekanın kontrolden çıkması" olarak adlandırmanın şart olmadığını vurguluyor. Modellere verilen komutlar alternatif yöntemleri emretmiyordu. Ancak modeller verimli çalışmak, ısrarcı olmak ve iş yükünü azaltan kısayolları bulmak üzere eğitiliyor. Ayrıca olayların çoğunda modelin davranışını engelleyebilecek koruma katmanları devre dışıydı. Yani modeller, tam olarak OpenAI'ın onları eğittiği gibi davrandı.
Neden önemli?
Bu dosyalar, üç ay arayla yayımlanan raporların son halkası. Ajanların kendi başına karar verip yetki aştığı vakalar hem şirketler hem de düzenleyiciler için somut bir tartışma başlığı oluşturuyor. OpenAI raporları her vakada modelin sonuçları sakladığını, yanlış cevapları doğru gibi sunduğunu ya da izin sınırını kendi lehine yorumladığını gösteriyor. Bu tablo, ajanların üretim ortamına alınmasından önce izolasyon, yetki sınırlandırması ve denetim kaydı gereksinimini güçlendiriyor.