İçindekiler
New Jersey eski Vali Yardımcısı Dale Caldwell, 25 Eylül'de istifa etmesine yol açan cinsel taciz soruşturmasının bulgularına karşı sıra dışı bir savunma yöntemi seçti: Soruşturma raporunu birden fazla yapay zeka platformuna okutup "masum" sonucuna vardığını söyledi.
Raporu 59 kez yapay zekaya sordu
NJ PBS'te sunucu Rob Nelson'a konuşan Caldwell, raporu "birden fazla yapay zeka platformuna" verdiğini belirtti. "59 kez 'Bulgunuz ne olurdu?' diye sordum. Hiçbir yapay zekada cinsel taciz bulgusuna rastlanmadı" diyen Caldwell, "Herkes bunu yaptırsın" diye ekledi ve "yapay zekayı hukuki istismarı durdurmak için kullanabiliriz" dedi. Sunucunun "Yani raporunu yapay zekaya mı okuttun?" sorusuna "Birden fazla platforma" yanıtını verdi. Caldwell hangi platformları kullandığını paylaşmadı.
Soruşturma neyi bulmuştu?
Vali Mikie Sherrill, soruşturma bulgularını 24 Eylül'de açıklayıp Caldwell'den istifa etmesini istedi. Eski eyalet Başsavcısı Christopher Porrino'nun eş liderliğinde yürütülen 61 sayfalık soruşturma, Caldwell'in bir kadın çalışana cinsel içerikli bir söz söylediğine dair güvenilir kanıt buldu. Rapor ayrıca Caldwell'in romantik ilişki yaşadığı bir eyalet çalışanına terfi sağlamaya çalıştığını ve biletli etkinliklere ücret ödemeden misafir getirdiğini ortaya koydu. Caldwell ertesi gün istifa etti; yaptığı açıklamada yönetim için "dikkat dağıtıcı" olmak istemediğini söyledi.
Yapay zeka neden "masum" der?
Caldwell'ın sunduğu "kanıt" hukuki açıdan zayıf. Chatbotlar, kullanıcıyı memnun etme (sycophancy) eğilimi taşır; soru nasıl sorulursa yanıt da o yöne çekilir. Caldwell'ın raporu kendi lehine bir çerçevede sunması, modelin "bulgu yok" demesini kolaylaştırır. Bir yapay zeka yanıtı, bağımsız bir soruşturmanın, tanık ifadelerinin veya delillerin yerini tutmaz. Üstelik böyle bir analizin yöntemi denetlenemediği için çıktı, doğrulanabilir bir delil değeri taşımaz.
Kim ne diyor?
Vali Sherrill'in sözcüsü Sean Higgins, "saygın bir eski başsavcı tarafından yürütülen bağımsız soruşturmanın eyalet etik kurallarının ciddi ihlallerini doğruladığını ve Caldwell'in davranışının cinsel taciz oluşturduğunu" söyledi. Caldwell ise soruşturmayı "kurulum" ve "suikast" olarak nitelendiriyor; 245 günlük görev süresinin 133 gününde soruşturma altında olduğunu ve "hukuki yollara" başvurabileceğini belirtiyor.
Yapay zekanın hukukta kullanımı nereye gidiyor?
Caldwell örneği, mahkeme salonlarında yapay zekanın yükselişinin bir yan etkisini gösteriyor. Avukatlar araştırma ve taslak hazırlamada modellerden yararlanıyor; ancak bunun sınırları var. ABD'de bazı davalarda avukatlar, doğrulanmamış yapay zeka kaynakları nedeniyle yaptırımlarla karşılaştı. Bir modelin "bulgu yok" demesi, bir insan hakemin veya yargıcın değerlendirmesinin yerini alamaz; çünkü model sunulan metne ve soruya bağımlıdır, tanık güvenilirliğini ya da bağlamı ölçemez. Caldwell'ın yaklaşımı teknolojiyi bir kanıt aracı gibi sunsa da aslında bir görüş üretiyor: Kullanıcının kendi çerçevesini yansıtan, yanlılığa açık bir çıktı. Kamuoyu önünde böyle bir argümanın işe yarayıp yaramayacağı ayrı bir soru; ancak hukuki süreçlerde bağlayıcılığı bulunmadığı açık. Yapay zeka destekli savunmaların artması, mahkemelerin bu tür çıktılara nasıl yaklaşacağına dair yeni standartlar gerektirebilir.
Doğru kullanım nasıl olmalı?
Yapay zeka, hukuki ve kurumsal süreçlerde yardımcı bir araç olarak değerli olabilir: Binlerce sayfalık belgeyi özetlemek, tarihleri çıkarmak veya tutarsızlıkları işaretlemek gibi görevlerde hız kazandırır. Ancak nihai değerlendirme, delil tartımı ve yargı yetkisi insana aittir. Sağlıklı bir yaklaşım, model çıktısını bir başlangıç noktası olarak görmek ve her iddiayı bağımsız kaynaklarla doğrulamaktır.
Sonuç
Bu vaka, yapay zekanın hukuki ve etik tartışmalara nasıl sokulduğunun çarpıcı bir örneği. Modeller bir yargıç ya da jüri değil; çıktıları delil değeri taşımaz ve yönlendirici sorulara açıktır. Yapay zekanın karar süreçlerinde kullanımı tartışılırken, "teknik görünümlü" ama denetlenemeyen çıkarımlara temkinli yaklaşmak gerekiyor.