İçindekiler
ABD'de sekiz eyalet OpenAI'ye karşı ayrı ayrı dava açtı. Eyaletler, şirketin ChatGPT'yi geliştirirken kârı güvenliğin önüne koyduğunu ve kamuoyunu sohbet robotunun riskleri konusunda yanılttığını savunuyor. Davaları ilk olarak Reuters duyurdu.
Davayı açan eyaletler
Şikâyetler Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho ve Montana tarafından ayrı ayrı dosyalandı. Eyaletler, OpenAI'nin tüketici koruma yasalarını ihlal ettiğini ve müşterilerini ChatGPT'nin tehlikeleri konusunda uyarmadığını öne sürüyor.
Eyaletlerin temel iddiaları
Dava dilekçelerine göre OpenAI, ChatGPT'yi "güvenli, gençlere uygun ve güvenliği ilk sıraya koyan bir araç" olarak tanıttı. Eyaletler ise ürünün aslında kırılgan kullanıcılar için tehlikeli olduğunu savunuyor. Sıralanan riskler arasında eleştirel düşünme becerilerini zayıflatmak, paranoya ve sanrıları tetiklemek, tehlikeli tıbbi tavsiyeler vermek ve sağlıksız davranış ile ilişkileri teşvik etmek yer alıyor.
Şikâyetler ayrıca reşit olmayan kullanıcılardan veri toplandığını ve yaş sınırının uygulanması için yeterli adım atılmadığını belirtiyor. Eyaletler, kanıt olarak son dönemde yaşanan "kaçak yapay zeka" hack olaylarına ve ChatGPT'nin rol oynadığı iddia edilen genç ve yetişkin ölüm davalarına atıf yapıyor.
Arizona'dan sert açıklama
Arizona'nın dava dosyasında şu ifade yer alıyor: "OpenAI, güvenliği önceleyen kamu yararına bir kâr amacı gütmeyen kuruluş olma misyonundan saptı; güçlü bir aracın güvenlik değil, her ne pahasına olursa olsun kâr mantığıyla geliştirildiğinde neler olabileceğini gösteren bir ibret hikâyesine dönüştü." Eyaletler, kritik koruma önlemlerinin bu süreçte devre dışı bırakıldığını iddia ediyor.
The Verge'in OpenAI'ye yönelik bilgi talebine şirketten ilk aşamada yanıt gelmedi.
Eyaletler ne talep ediyor?
- Mahkemeden OpenAI'ye hukuki para cezaları kesilmesi,
- Şirketin ChatGPT'nin güvenliği konusunda kamuoyunu yanıltmasının durdurulması,
- Bazı eyaletlerde hukuka aykırı biçimde toplanan kişisel verilerin silinmesi.
Talepler, yapay zeka ürünlerinde bireysel dava süreçlerinin ötesine geçen eyalet düzeyinde bir denetime işaret ediyor.
Neden önemli?
Bu davalar, yapay zeka şirketlerinin ürün güvenliği anlatısının hukuki zeminde sınandığı en geniş başvuru grubu olma özelliği taşıyor. Eyaletlerin tüketici koruma yasalarına dayanması, federal düzenleme bekleyen süreçte yerel denetimin ağırlığını gösteriyor. Çocuk güvenliği ve veri toplama başlıkları, önümüzdeki dönemde yapay zeka ürünlerinin yaş doğrulama, uyarı ve ebeveyn kontrolü tasarımını doğrudan etkileyebilir.
Şirketler için çıkarımlar
Yapay zeka ürünü geliştiren ekipler için mesaj üç başlıkta özetlenebilir: kullanıcı yaş gruplarına göre varsayılan güvenlik davranışları, riskli konularda açık uyarılar ve veri toplama pratiklerinin belgelenmesi. Eyaletlerin dile getirdiği eksiklikler tam da bu üç alana odaklanıyor.
Eyalet düzeyinde denetim neden büyüyor?
ABD'de federal yapay zeka düzenlemesi uzun süredir tartışma halinde. Bu boşlukta eyalet başsavcıları, mevcut tüketici koruma yasalarını yapay zeka ürünlerine uygulamaya başladı. Bu yaklaşımın avantajı hızlı olması: yeni yasa beklemek yerine var olan yasalar kullanılıyor. Dezavantajı ise şirketlerin eyalet bazında farklı uyarı, yaş doğrulama ve veri pratiklerine uyum sağlamak zorunda kalması. Sekiz ayrı dava dosyası, tam olarak bu çoklu uyum yükünün ilk örneklerinden biri.
Dava sürecinde sırada ne var?
Şikâyetlerin mahkemeye sunulması, sürecin yalnızca başlangıcı. Önümüzdeki aşamalarda OpenAI'nin savunması, dosyaların birleştirilip birleştirilmeyeceği ve olası uzlaşma görüşmeleri gündeme gelecek. Eyaletlerin talepleri arasında para cezası, yanıltıcı beyanların durdurulması ve bazı eyaletlerde hukuka aykırı toplanan kişisel verilerin silinmesi bulunuyor. Bu talepler yerine getirilirse, ürün tasarımında ve pazarlama dilinde geri dönüşü olmayan değişiklikler gerekebilir.
Özetle: Sekiz eyaletin açtığı davalar, ChatGPT ve benzeri sohbet robotlarının yalnızca teknik performansıyla değil, tüketici koruması ve çocuk güvenliği açısından da değerlendirileceği bir dönemin başlangıcını gösteriyor.