İçindekiler
Google DeepMind araştırmacıları, ajanlı yapay zeka kullanarak Signal protokolünün bir dizi temel kriptografik garantisini matematiksel olarak kanıtladı. WIRED'ın aktardığına göre çalışma, dört hafta gibi kısa bir sürede tamamlanan bir kavram kanıtı projesi olarak yürütüldü.
Sonuç iki açıdan önemli. Birincisi, Signal uygulaması, Google Messages ve WhatsApp gibi platformlarda dünyanın büyük bölümünün iletişimini koruyan kriptografiye bağımsız bir doğrulama ekliyor. İkincisi, DeepMind'ın AlphaProof Code adını verdiği yeni yapay zeka çerçevesinin neler yapabildiğini gösteriyor.
Formal doğrulama neden zor?
Formal doğrulama, yazılımın amaçlandığı gibi çalıştığını matematikle kontrol etme yöntemi. Yani "test ettim, çalışıyor" demek yerine "bu kodun şu özelliği taşıdığını ispatladım" demek. Güvenlik dünyasında uzun süredir bir tür kutsal kase olarak anılıyor; çünkü doğru uygulanırsa kritik açıkların varlığını çalıştırmadan önce dışlıyor.
Yapay zeka öncesinde bu iş çok zahmetliydi: İstenen özelliklerin tanımlanması, bunların formüllere çevrilmesi ve ispatın geliştirilmesi gerekiyordu. Ajanlı yapay zeka, özellikle son adımı ciddi biçimde kısaltıyor.
Çalışma ne buldu?
DeepMind'ın analizi, incelediği Signal protokolü bölümlerinde yeni bir güvenlik açığı bulmadı. Yani mevcut kod, iddia edilen garantileri sağlıyor.
Daha ilginç olan kısım test yöntemi: Araştırmacılar AlphaProof Code'u, bilinen ve sonradan düzeltilmiş açıkları içeren eski Signal sürümleri üzerinde çalıştırdı. Çerçeve bu açıkları doğru şekilde tespit etti ve protokolün formal olarak doğrulanamadığını gösterdi. Bu, aracın yalnızca "her şey yolunda" diyen bir onay makinesi olmadığını göstermesi açısından önemli.
Araştırmacılar, Signal protokolü analizi için geliştirdikleri spesifikasyonu ve ispatı, başka formal doğrulama çalışmalarına yardımcı olmak üzere açıklıyor.
İnsan ve yapay zeka iş bölümü
DeepMind araştırma bilimcisi Swarat Chaudhuri, sürecin tamamen yapay zekaya bırakılmadığını vurguluyor. Geliştirdikleri yöntem, ajanların sürecin neredeyse her aşamasında katkı verip kendini düzeltebildiği, ancak kritik noktalarda insan girdisi ve incelemesi istediği bir "insan-yapay zeka iş birliği" akışı.
Chaudhuri'nin ifadesiyle: "Yapay zekanın hedefleri ürettiği, ispatları ürettiği ve kendi yazdığı sınavlara girdiği bir vibe dünyası istemiyoruz. Bir orta yol var."
Bu tercih, güvenlik açısından makul. Formal doğrulamanın değeri, ispatın doğruluğundan geliyor; ispatı üreten sistemin kendi kendini denetlemesi bu değeri zayıflatır.
Signal cephesinden yanıt
Signal'in teknoloji direktörü Ehren Kret, yaptığı açıklamada önceki formal doğrulama çalışmalarının kodun daha küçük bölümlerine odaklandığını, DeepMind'ın yaklaşımının kapsamı belirgin biçimde genişlettiğini söylüyor. Kret'e göre yapay zeka kaynaklı güvenlik tehditleri büyürken protokol uygulamasının titizlikle doğrulanması, kodun gizlilik garantilerine duyulan güveni artırıyor.
Sınırlar ve açık sorular
- Analiz, Signal mobil uygulamasının tamamını kapsamıyor; protokolün belirli bölümleri doğrulandı.
- DeepMind, çalışmayı ücretsiz bir araştırma projesi olarak yürüttü ve analizin maliyetini paylaşmadı.
- Şirket, ticari bir formal doğrulama ürünü veya hizmeti planlayıp planlamadığı konusunda açıklama yapmadı.
- Yöntemin büyük kod tabanlarına ölçeklenip ölçeklenemeyeceği ve maliyetinin ne olacağı sektörde tartışmalı.
Google Cloud baş bilim insanı ve DeepMind araştırma başkan yardımcısı Pushmeet Kohli ise potansiyeli şöyle anlatıyor: "Bu uygulamaların doğruluğunu ispatlayabiliyorsanız, içiniz rahat eder. Bankaları, hatalardan endişe eden ve güvence isteyen tüm şirketleri düşünün; artık 'bu özellikleri ispatlayabilirim' diyebilirler."
Sonuç
Dört haftada bir protokolün kritik garantilerinin ispatlanması dikkat çekici; ancak DeepMind araştırmacılarının kendi ifadesiyle "dünyanın tüm yazılımını" kapsayacak ölçeğe giden yol hâlâ uzun. Yine de yön net: yapay zeka, güvenlik doğrulamasında test kültürünün yerini almaya değil, ispat üretimini hızlandırmaya aday. Kritik altyapı işleten ekipler için bu, önümüzdeki iki yılda izlenmesi gereken başlıklardan biri.