İçindekiler
Papa Leo XIV, 30 Ekim Cuma günkü Papalık konuşmasında yapay zeka sistemlerinin "silahsızlandırılması" gerektiğini söyledi. Papa, insanların "bu sistemleri yönlendirme, değiştirme ve gerektiğinde uygulamalarını reddetme sorumluluğuna" sahip olduğunu belirtti. Açıklama, yapay zekanın askeri kullanımına dair tartışmanın en üst düzey dini otoritelerden birine taşındığını gösteriyor.
Papa Leo, Birleşmiş Milletler üyesi devletlere gelecek ay Cenevre'deki toplantılarında "ölümcül otonom silahların yasaklanması yönünde somut adımlar atmaları" çağrısında bulundu.
Mayıs belgesinin devamı
Konuşma, Papa Leo'nun Mayıs ayında yayınladığı ilk büyük papalık belgesindeki fikirlerin devamı niteliğinde. O belgede "yapay zeka çağında insan kişisinin korunması" teması işlenmişti. Papa, bu çizgiyi sürdürerek yapay zeka sistemlerine haklar veya hukuki kişilik tanınmasının risklerine dikkat çekti.
Konuşmanın en çok alıntılanan cümlesi kısa ve net: "Makineler araçtır, kişi değildir."
"İnsan gözetimi" vurgusu
Papa Leo'ya göre insan hayatını, özgürlüğü ve güç kullanımını etkileyen kararlar her zaman "etkin, bilgili ve sorumlu insan gözetimine" tabi kalmalı. Bu ifade, otonom silah tartışmasının merkezindeki soruyu doğrudan hedefliyor: hedef seçimi ve ateş kararı bir makineye devredilebilir mi?
Papa, konuşmasını uluslararası kurumlara ortak faydayı koruma çağrısıyla bitirdi. Yapay zekanın geliştirilmesi ve kullanımına dair kararların "ortak standartlar, bağımsız gözetim ve net hesap verebilirlik mekanizmaları" ile incelenebilmesi, gerektiğinde itiraz edilebilmesi ve doğan zararlar için uygun telafi yolları tanımlanması gerektiğini söyledi.
Vatikan'ın çizgisi yeni değil
Bu, Katolik Kilisesi'nin yapay zeka konusundaki ilk sert çıkışı değil. 2024'te Papa Francis de otonom silahların yasaklanması çağrısı yapmış ve "hiçbir makine bir insanın hayatını almaya karar vermemeli" demişti.
Papa Leo'nun bu konuya ağırlık vermesi sembolik olarak da dikkat çekiyor: adını, Sanayi Devrimi'nin ilk yıllarında kilisenin başında bulunan XIII. Leo'dan aldığını ve teknolojik dönüşümle yüzleşmek zorunda olduğu için bu ismi seçtiğini belirtmişti.
Otonom silah tartışmasında nerede duruyoruz?
Ölümcül otonom silahlar yıllardır Cenevre merkezli Birleşmiş Milletler görüşmelerinin gündeminde. Ancak süreç bağlayıcı bir sözleşmeye dönüşmedi; ülkeler "anlamlı insan kontrolü" tanımı üzerinde bile uzlaşamıyor. Savunma sanayisinde hedef tespiti ve karar destek sistemleri büyük ölçüde insan onayıyla çalışsa da, sistemlerin hızı arttıkça insanın karar döngüsündeki yeri daralıyor.
Papa Leo'nun çağrısı bu boşluğa denk geliyor: yasak çağrısı yaparken aynı zamanda bir çerçeve öneriyor. "Ortak standartlar, bağımsız gözetim ve net hesap verebilirlik" ifadesi, teknik düzenleme tartışmalarında kullanılan dili dini bir metne taşıyor.
Yapay zekaya hukuki kişilik verilmesi neden tartışılıyor?
Bazı hukuk ve felsefe çevrelerinde, otonom sistemlerin zarar verdiği durumlarda sorumluluğun kime ait olacağı sorusu "yapay zekaya sınırlı hukuki kişilik tanınsın" önerisine yol açtı. Papa Leo bu yaklaşıma açıkça karşı çıkıyor: makineye kişilik tanımak, sorumluluğu insandan makineye kaydırma riski taşıyor.
Bunun pratik sonucu önemli: bir sistemin verdiği zararın muhatabı "kişi" olarak tanımlanırsa, zararı tasarlayan, eğiten ve devreye alan aktörlerin sorumluluğu zayıflayabilir. Papa'nın vurgusu tam olarak bunun tersini savunuyor; karar insan gözetiminde kalmalı.
Neden önemli?
Otonom silah yasağı tartışması yıllardır BM çatısı altında sürüyor ancak bağlayıcı bir düzenlemeye dönüşmedi. Vatikan'ın devreye girmesi, özellikle Latin Amerika, Afrika ve Asya'daki geniş Katolik nüfuzu üzerinden siyasi bir ağırlık taşıyor. Cenevre toplantısı öncesi yapılan bu çağrı, hükümetlere "teknik bir mesele değil, etik bir eşik" çerçevesi sunuyor.
Teknoloji tarafında ise tablo karmaşık: otonom hedef tespiti ve karar destek sistemleri hâlâ insan onayıyla çalışıyor olsa da savunma sanayisinde tam otonomiye doğru adımlar atılıyor. Papa'nın konuşması bu eğilime karşı en görünür ahlaki itiraz olarak kayda geçti. Yapay zekaya hukuki kişilik verilmesi tartışması ise ayrı bir hukuk başlığı olarak açık kalıyor.