İngiltere'de OpenAI Araçlarına İnceleme Sinyali

İngiltere'de sınır ve göçmenlik denetiminden sorumlu bağımsız denetim kurumu ICIBI, İçişleri Bakanlığı'nın (Home Office) sığınma başvurularını işlemek için kullandığı üretken yapay zeka araçları hakkında soruşturma açmayı değerlendiriyor. WIRED'ın edindiği bilgiye göre kurum, dijital haklar örgütü Open Rights Group'tan (ORG) araçlarla ilgili ek bilgi talep etti.

Hangi araçlar kullanılıyor?

ORG'nin altı aylık incelemesi ve elde ettiği belgelere göre Bakanlık iki aracı kullanıyor: Asylum Case Summarisation (ACS) ve Asylum Policy Search (APS). İkisi de OpenAI'nin 2023 tarihli GPT-4 büyük dil modeli ve Microsoft Foundry üzerine kurulu. ACS, sığınma başvurusu sahipleriyle yapılan mülakat dökümlerini özetliyor; APS ise menşe ülke bilgilerini arayıp özetleyen bir asistan olarak çalışıyor. Pilot uygulama 2024 sonunda, hükümetin yaklaşık 100 bin dosyalık birikimi eritmeye çalıştığı dönemde başladı.

Hükümetin değerlendirmesine göre iki araç birlikte kullanıldığında dosya başına yaklaşık bir saat tasarruf sağlıyor. Bakanlık Haziran 2026'ya kadar geçen yıl ilk karar bekleyenlerin sayısını yarıya indirdiğini açıkladı; ancak kararlara yapılan itirazların sayısı hızla arttı.

Doğruluk tartışması

ORG, ACS tarafından üretilen ve "kullanıma uygun değil" bulunan özetlerin oranının, pilot değerlendirmede yayımlanan yüzde 9'luk hata oranından belirgin şekilde yüksek olduğunu tespit etti. Uygunsuzluk çoğunlukla olgusal hatalar ve yanlış temsillerden kaynaklanıyor. Örgüt ayrıca APS'nin ürettiği özetler için hiçbir kalite kontrolü bulunmadığını belirtiyor.

Temmuz 2026'da bir İngiliz hakim, Bakanlığı bir Faslı kadın ve çocuğunun sığınma talebini reddederken "yapay zekanın uydurduğu" bir belgeye atıf yapmakla suçladı. Bu vaka, özetlerin doğrudan karar gerekçesine sızabileceğini gösteren somut bir örnek olarak kayda geçti.

Şeffaflık ve denetim sorunu

İngiltere'nin "AI Playbook" belgesi, kamu kurumlarının karar süreçlerinde kullandığı algoritmik araçlar konusunda şeffaf olmasını ve bunları kamuya açık bir dizinde listelemesini şart koşuyor. ORG'ye göre ACS ve APS bu listede yer almıyor.

Public Law Project'ten Caroline Selman, ekibinin devlet genelinde kullanılan ancak kamuya açık dizinde bulunmayan 11 yüksek riskli yapay zeka sistemi tespit ettiğini söylüyor ve ekliyor: "Başka araçlar da kullanılıyor ama hiç duyurulmuyor; kullanıldığını bilmediğiniz bir şey hakkında soru sormaya bile başlayamazsınız."

ORG'nin göçmen dijital adalet programını yürüten Sara Alsherif, sığınma başvurusu sahiplerine bu araçların kullanıldığının bildirilmediğini belirtiyor. Örgütün talep ettiği bağımsız hukuki görüşte (Cloisters avukatları), kişisel bilgilerin hatalı yapay zeka özetlerine itiraz edilememesinin İngiltere veri hakları mevzuatını ihlal edebileceği ifade ediliyor.

Bilgi Edinme Komiserliği (ICO) ayrıca Bakanlığın, personelin bu iki aracı nasıl kullandığını ve bu konuda nasıl eğitildiğini ORG'ye açıklamayı reddetmesi üzerine soruşturma yürütüyor.

Bakanlık ve OpenAI ne diyor?

ICIBI, yıllık denetim önceliklerini yayımlamadan hangi konuların değerlendirmede olduğunu teyit edemeyeceğini bildirdi; ancak yapay zeka araçlarına ilişkin endişelerin farkında olduğunu ve geçen yıl bir aracın "etkinliği ve güvenilirliğinin değişken" olduğu yönündeki bulgusuna işaret etti.

İçişleri Bakanlığı sözcüsü, sığınma kararlarının eğitimli vaka çalışanları tarafından alındığını, yapay zeka araçlarının yalnızca mülakat kayıtları ve politika bilgilerinde gezinmeye yardımcı olduğunu, tek başına kullanılamayacağını ve karar üretmediğini söyledi. Bakanlık ayrıca araçların performansını kalite güvence süreçleriyle düzenli izlediğini ve güncellenmiş değerlendirmeleri yayımlama taahhüdü verdiğini belirtti.

OpenAI sözcüsü, modellerin doğruluğunu artırma çalışmalarına dikkat çekti ve şirketin GPT-4'ü Ocak ayında kullanımdan kaldıracağını hatırlattı. Bu takvim, araca bağımlı bir sürecin kısa süre içinde yeni bir modele taşınması gerektiği anlamına geliyor.

Siyasi tepki

İşçi Partisi milletvekili Bell Ribeiro-Addy, WIRED'a şunları söyledi: "İnsanların hayatlarıyla uğraşıyoruz. En kötü koşulları yaşamış insanlardan bahsediyoruz ve kararları gerçeklere ve zararın anlaşılmasına dayanarak vermemiz gerekiyor. Makinelerin bunu yapmasını uygun bulmuyorum."

Araştırmacılar ayrıca GPT modellerinde belgelenmiş kültürel önyargının dil bariyerlerine ve kültürel nüans kaybına yol açabileceğini, bunun da ayrımcı kararlara dönüşebileceğini vurguluyor.

Türkiye açısından neden önemli?

Türkiye'de de kamu kurumlarında yapay zeka kullanımı artıyor ancak hangi aracın hangi kararda kullanıldığına dair kamuya açık bir envanter yok. İngiltere örneği, iki riski birlikte gösteriyor: özet doğruluğunun denetlenmemesi ve kullanılan aracın ilgili kişiye bildirilmemesi. Yüksek riskli kararlarda (sığınma, sosyal yardım, sağlık) şeffaflık kaydı ve itiraz hakkı, teknik doğruluktan bağımsız olarak gereklilik haline geliyor.