İçindekiler
OpenAI, Avrupa Birliği Yapay Zeka Yasası'nın şeffaflık şartlarına yanıt olarak metin kaynağını (provenance) işaretleme yaklaşımını kamuoyuyla paylaştı. Şirket, bugüne kadar görsel ve ses çıktıları için doğrulama araçları sunuyordu; şimdi aynı çabayı metne taşıyor. Açıklamaya göre yeni teknolojinin adı textGrain.
AB Yapay Zeka Yasası, üretici yapay zeka sağlayıcılarından üretilen metnin makine tarafından okunabilir biçimde tanımlanmasını istiyor. OpenAI bu yükümlülüğü kademeli bir planla karşılamayı seçti ve teknolojinin sınırlarını açıkça anlatmaya öncelik verdi.
Ne duyuruldu?
OpenAI üç aşamalı bir yol izliyor. İlk olarak, bugünden itibaren API müşterileri seçili modellerde metin filigranına opsiyonel olarak katılabilecek; filigran API'de varsayılan olarak kapalı kalacak. İkinci olarak, önümüzdeki haftalarda Avrupa Birliği'ndeki uygun ChatGPT ve Codex çıktılarına görünmez bir filigran eklenecek. Üçüncü olarak, OpenAI filigran dedektörüne başvuru sürecini açtı; erişim başlangıçta yalnızca onaylı araştırmacı ve uzman kuruluşlara verilecek.
Görsel ve ses için doğrulama araçları ise herkese açık kalmaya devam edecek. openai.com/verify web aracı ve Content Provenance API, bir görselin veya ses dosyasının OpenAI sistemleriyle üretilip üretilmediğini denetlemeye devam ediyor.
textGrain nasıl çalışıyor?
textGrain, modelin kelime seçimlerine görünmez bir istatistiksel sinyal ekliyor. Dedektör bu sinyali arayarak bir metnin OpenAI filigranı taşıyıp taşımadığını tahmin ediyor. OpenAI, kendi değerlendirmelerinde textGrain'in test ettiği diğer yaklaşımları, metin için Google SynthID dahil, eşitlediğini veya geçtiğini söylüyor.
Ancak şirket, ideal koşullardaki güçlü performansın günlük kullanımda güvenilir tespit garantisi vermediğini vurguluyor. Dedektörler iki tür hata yapabiliyor: olmayan bir filigranı varmış gibi bildirmek (yanlış pozitif) veya var olan filigranı kaçırmak (yanlış negatif).
Filigranın sınırları
OpenAI'nın paylaştığı sayılar, teknolojinin ne kadar kırılgan olabileceğini gösteriyor. Yüzde 1 hedef yanlış pozitif oranında dedektör, 200 tokenlık pasajların yaklaşık yüzde 80'ini, 400 tokenlık pasajların ise yaklaşık yüzde 95'ini işaretleyebildi. Matematik gibi kelime seçiminin kısıtlı olduğu içeriklerde tespit oranı belirgin biçimde düşüyor.
Düzenleme de filigranı zayıflatıyor. 400 tokenlık pasajlarda kelimelerin yalnızca yüzde 10'u eş anlamlılarla değiştirildiğinde tespit oranı yaklaşık yüzde 92'den yüzde 66'ya, yüzde 25'i değiştirildiğinde yüzde 17'ye iniyor.
Şirket, bir filigranın ne anlama gelmediğini de net biçimde sıralıyor: filigran insan katkısını ölçmez, sahiplik veya sorumluluk kurmaz, kullanıcıyı tanımlamaz ve doğruluğu kanıtlamaz. Filigranın yokluğu da metnin insan yazısı olduğunu göstermez.
AB'de kademeli geçiş
OpenAI, metin filigranını başlangıçta küresel bir varsayılan yapmıyor. Önümüzdeki haftalarda filigran, AB'deki tüm planlardaki uygun ChatGPT ve Codex kullanıcılarına sunulacak. Şirket bu bölgesel yaklaşımın, gerçek kullanımdan öğrenmek ve geri bildirim toplamak için alan tanıdığını belirtiyor. API tarafında ise müşteriler kendi şeffaflık yükümlülüklerine göre filigranı açıp kapatabilecek.
Ne anlama geliyor?
Metin filigranı, görsel ve sesteki kadar net sonuç vermiyor; çünkü metin kolayca yeniden yazılabiliyor, çevrilebiliyor ve düzenlenebiliyor. OpenAI da bu nedenle dedektörü herkese açmak yerine önce araştırmacılarla doğrulamayı tercih ediyor. Şirket, kanıtlar ve standartlar geliştikçe yaklaşımını güncelleyeceğini, teknolojiyi açık kaynak olarak da paylaşmayı planladığını belirtiyor.
Görsel ve seste katmanlı yaklaşım
OpenAI, metin filigranını tek başına yeterli görmüyor. Şirket, desteklenen görsel çıktılara Content Credentials ekliyor ve C2PA standardına uyumlu davranıyor. Ayrıca desteklenen görsel ve seslere görünmez SynthID filigranları gömüyor. Bu teknikler birbirini tamamlıyor: Content Credentials bir dosyanın kökenini ve geçmişini kaydederken, görünmez filigranlar meta veri silindiğinde bile sinyali koruyabiliyor.
Metin tarafında durum farklı. Metin kolayca yeniden yazılabiliyor, çevrilebiliyor ve düzenlenebiliyor. Bu yüzden OpenAI, metin kaynağını görsel ve sesle aynı olgunlukta görmüyor ve dedektörü aşamalı biçimde açmayı planlıyor.
Platformlar ve geliştiriciler
Şirket, bulut ortaklarıyla da çalışarak OpenAI model çıktılarının bu hizmetler üzerinden kullanıldığı durumlarda filigranın sunulmasını hedefliyor. API müşterileri için filigran aynı zamanda bir tercih meselesi: müşteriler kendi şeffaflık yükümlülüklerine göre bu özelliği açıp kapatabilecek. Bu esneklik, özellikle düzenlemelerin farklı ülkelerde farklı uygulandığı bir dönemde önem taşıyor.
Özet
OpenAI'nın hamlesi, yapay zeka içeriğinin kaynağını şeffaflaştırma çabasının metne uzanan yeni bir adımı. Ancak textGrain, sihirli bir çözüm değil: kolayca zayıflayan, sınırlı bir sinyal. Yine de AB yükümlülükleri ve artan deepfake tartışmaları göz önüne alındığında, sağlayıcıların metin kaynağını işaretlemeye yönelmesi 2026'nın belirleyici eğilimlerinden biri olmaya aday.