Meta Gizli Yönlendirmeyi LLM ile Tespit Ediyor

Meta, 7 Ekim'de Facebook ve Instagram'da çocuk cinsel istismarıyla mücadele kapsamında devreye aldığı ek önlemleri açıkladı. Şirketin paylaştığı rakamlara göre 2026'nın ilk yarısında platformlarda 33,2 milyon çocuk cinsel istismarı içeriği işlem gördü ve bunların %97'den fazlası herhangi bir kullanıcı şikayeti olmadan sistem tarafından bulundu. Meta bu işi yalnızca içerik kaldırma olarak değil, ağ düzeyinde bozma olarak tanımlıyor.

Yeni taktik: signposting, yani gizli yönlendirme

Meta'ya göre kötü niyetli aktörler reklam yüzeyini kullanmaya başladı. Sorunlu bir reklam tek başına zararsız görünebiliyor ama platform dışında barındırılan yasa dışı içeriğe örtük biçimde yönlendirme yapabiliyor. Meta bu taktiğe "signposting" (gizli yönlendirme) diyor ve şirketin anlatımına göre reklam tasarımı özellikle tespitten kaçmak için kurgulanıyor. Şirket, ihbar edilen bir örnekle yetinmeyip ilgili davranışı kendi platformlarında genişlettiğini, ihlal eden hesapları kapattığını ve platform dışı bağlantıları engellediğini belirtiyor.

LLM tabanlı signposting tespiti

Yeni araçlardan ilki, çocuk cinsel istismarı içeriğine yönelik gizli yönlendirmeleri yakalamak için kullanılan büyük dil modeli tabanlı tespit sistemi. Amaç, görünüşte zararsız reklam metnindeki ince dilsel ipuçlarını ve gizli yönlendirmeleri puanlamak. Bununla birlikte Meta, yalnızca reklamın neyi gösterdiğine değil nereye gittiğine bakabilen gelişmiş bir anlayış katmanı eklediğini söylüyor; böylece ihlal içeren hedefler engellenebiliyor ve hesap düzeyinde yaptırım uygulanabiliyor. Ayrıca yapay zeka destekli ek reklam taramaları yapılarak önceki sistemlerin kaçırdığı içerikler yüzeye çıkarılıyor.

Kendi savunmasını sınayan kırmızı takım ajanı

İkinci dikkat çekici araç bir kırmızı takım ajanı; Meta'nın kendi savunmalarını proaktif olarak yoklayıp zayıflık arıyor. Amaç, saldırganların kullanabileceği boşlukları onlar yaygınlaşmadan bulmak. Bu yaklaşım, güvenlik ekiplerinin yıllardır kullandığı kırmızı takım pratiğini otomatik ajanlara devretmenin somut bir örneği. Meta ayrıca, uzaklaştırıldıktan sonra yeni hesap açmaya çalışan aktörleri yakalamak için tekrar suç işleme tespitini de güçlendirdiğini duyurdu.

Arka plandaki teknoloji yığını

Meta'nın açıklamasına göre savunma tek bir modele dayanmıyor. Davranışsal sinyaller, meta verilerle birlikte şüpheli hesap kalıplarını yakalıyor; 2011'den beri kullanılan PhotoDNA ve benzeri eşleştirme teknolojileri bilinen materyalin aynı ya da neredeyse aynı kopyalarını buluyor ve hash'ler Tech Coalition'ın Lantern programı üzerinden sektörle paylaşılıyor. Platform dışı bağlantılar engellendiğinde o bağlantıyı taşıyan reklam, gönderi ve yorumlar da temizleniyor; ihlal içeren linklerle reklam yüklenmesi doğrudan reddediliyor. Yapay zeka modelleri ile sezgisel kuralları birleştiren mekanizmalar ise yeni ve gelişen ihlal kalıplarını ölçekte yakalamak için çalışıyor.

Rakamların bağlamı ve denetim sorunu

Meta'nın paylaştığı tablo, ölçeği ve otomasyon oranını birlikte gösteriyor: 2026 Ocak-Haziran döneminde dünya genelinde 33,2 milyon içerik işlem gördü ve bunların %97'den fazlası kullanıcı bildirimi olmadan tespit edildi. Hindistan'a özel rakam 5,3 milyon içerik ve %98'in üzerinde proaktif tespit. Şirket, ihlal içeren materyali NCMEC aracılığıyla kolluk kuvvetlerine bildirdiğini, Hindistan'da ayrıca Ulusal Siber Suç Bildirim Portalı'na doğrudan bildirim yapacağını duyurdu. Bu rakamlar şirketin kendi tanımladığı metrikler; bağımsız bir dış denetim ya da üçüncü taraf doğrulaması bulunmuyor. Yani sayılar politika etkinliğini göstermek için güçlü, ancak tek başına yeterli kanıt değil.

Kırmızı takım ajanı neden önemli?

Otomatik kırmızı takım ajanları, güvenlik ve içerik moderasyonu ekiplerinin insan gücüyle haftalar süren saldırı simülasyonlarını saatler içinde tekrarlamasını sağlıyor. Meta'nın ajanı kendi savunma katmanlarını yoklayarak saldırganların kullanabileceği boşlukları erken bulmayı hedefliyor. Aynı yaklaşımı benimsemek isteyen ekipler için pratik sıra şu: önce kendi filtrelerinizin kaçırdığı örnekleri ölçün, sonra bu örnekleri otomatik test setlerine dönüştürün ve ajanı her model güncellemesinde yeniden çalıştırın. Savunma tarafının ajanlaşması, saldırı tarafının zaten ajanlaştığı bir ortamda kaçınılmaz hale geliyor.

Sonuç

Bu duyurunun yapay zeka tarafındaki dersi, savunmanın da saldırganlar gibi ajanlaşmaya başlaması: Metin düzeyindeki ince ipuçlarını dil modelleriyle yakalamak ve kendi sistemini otomatik ajanlarla test etmek, içerik güvenliği ekipleri için yeni standart haline geliyor. Rakamlar da ölçeği gösteriyor: yarım yılda 33,2 milyon içerik ve %97'nin üzerinde proaktif tespit.