AnySpeechRecognizer ve AnyDecisionModel Nedir?

Hugging Face'te Swift ekosistemi üzerine çalışan Mattt, Apple platformları için iki yeni açık kaynak paket yayımladı: AnySpeechRecognizer ve AnyDecisionModel. İkisinin de mantığı aynı: dil modeli dışında kalan makine öğrenmesi işlerini, o iş için üretilmiş daha küçük ve daha ucuz modellere bırakmak, ama geliştiriciye tanıdık bir Swift arayüzü sunmak.

Örnek senaryo basit: Bir müşteri destek hattını arıyor. Önce ne söylediğini yazıya dökmek (konuşma tanıma), sonra onu doğru birime yönlendirmek (karar) gerekiyor. Her iki adımı da bir dil modeline yaptırabilirsiniz, ancak bu işler için özel eğitilmiş modeller çoğu zaman daha hızlı, daha doğru ve daha ucuz sonuç veriyor.

AnySpeechRecognizer: Apple'ın API'si, model seçme özgürlüğü

Apple, macOS 26 ve iOS 26 ile SpeechAnalyzer adlı yeni bir konuşmadan metne API'si duyurmuştu. AnySpeechRecognizer bu API'yi birebir taklit ediyor; `import Speech` satırını `import AnySpeechRecognizer` yapmak yeterli oluyor. Fark, arka planda çalışan motoru seçebilmeniz: varsayılan Apple motorunun yanında NVIDIA'nın Parakeet ailesi ve Alibaba'nın Qwen3-ASR modelleri cihaz üzerinde, Core ML ile çalıştırılabiliyor.

Parakeet v3: NVIDIA'nın TDT 0.6B v3 modeli. 25 Avrupa dilini tanıyor ve hangi dili duyduğunu kendisi çözüyor; dil kodu vermeniz gerekmiyor.
Parakeet Ultra: Moondream'in v3 üzerine sonradan eğittiği sürüm; ölçümlerin çoğunda daha doğru çıktı.
Parakeet Unified: Yalnızca İngilizce için optimize edilmiş sürüm.
Qwen3-ASR: 0.6B ve 1.7B boyutlarında, 30 dil ve 22 Çince lehçesi tanıyor. Parakeet'in kapsamadığı Mandarin, Kantonca, Japonca ve Korece burada devreye giriyor. GPU'da çalıştığı için daha yavaş; canlı girişten çok dosya transkripsiyonuna uygun.

Konuşmacı ayrıştırma (diarization)

Apple'ın çerçevesinde konuşmacı ayrıştırma modülü yok. Paket bunu NVIDIA'nın Streaming Sortformer modelini Core ML üzerinde çalıştırarak ekliyor; dört konuşmacıya kadar takip ediyor ve insanlar birbirinin sözünü kesse bile rolleri ayırmaya devam ediyor. Üretilen zaman çizelgesi her kelimeyi bir konuşmacıya bağladığı için "kim ne dedi" biçiminde transkript almak mümkün.

Ölçülen doğruluk

Paketin `hear` komut satırı aracıyla M4 Max Mac Studio ve macOS 27.0.1 üzerinde, 3-8 dakikalık LibriSpeech dosyalarında ölçülen kelime hata oranları şöyle: Parakeet v3 dosyada yüzde 1,55 (test-clean) ve yüzde 2,78 (test-other); canlı modda yüzde 4,73 ve 4,29. Parakeet Unified dosyada yüzde 1,43 ve 2,19 ile en iyi sonucu veriyor. Apple'ın kendi motoru ise yüzde 2,12 ve 3,97'de kalıyor. Parakeet, bir saatlik sesi dosyadan yaklaşık 20-40 saniyede, canlı akışta 1,5-2,5 dakikada işliyor ve Core ML dermesi sonrası yaklaşık 100 MB bellek kullanıyor.

Toplantı kayıtları herkes için zor: AMI kayıtlarında, insanların sürekli sözünü kestiği koşullarda test edilen tüm motorlar yüzde 23'ün üzerinde hata oranı verdi. Bu sayılar tek makine ve sınırlı veri kümesinden geldiği için kendi donanımınızla ölçüm yapmanız öneriliyor.

AnyDecisionModel: metin üretmeden karar

İkinci paket, evet/hayır, çoktan seçmeli ve puanlama ölçeğinde soruları tipli sonuç ve olasılıklarla yanıtlıyor. Cevabı metin olarak üretmek yerine modelin olasılıklarından türetiyor. Altı arka uç destekliyor: Apple silicon üzerinde MLX, kendi karar başlığına sahip modeller (örneğin Clef), Core AI, llama.cpp üzerinden yerel GGUF, TypeSafe'in Jev modeli ve Ollama. Sonraki-jeton tabanlı arka uçlarda seçenek sayısı 26, puan düzeyi 10 ile sınırlı; karar başlıklı modellerde böyle bir sınır yok.

Her iki paket de Swift 6.2 ve üzerini, macOS 26 veya iOS 26 ve üzerini istiyor. Parakeet ile Sortformer çalışma zamanları ve MLX arka ucu Apple silicon şartı koyuyor. Modeller Hugging Face Hub'dan indiriliyor ve yalnızca uygulama istediğinde indiriliyor; Parakeet için yaklaşık 600 MB, canlı kodlayıcı için 590 MB, Qwen3-ASR için 0,9-2,4 GB, Sortformer için yaklaşık 250 MB disk gerekiyor.

Paketin önemi, cihaz üstü yapay zeka tartışmasında pratik bir boşluğu doldurması: Her işi büyük dil modeline yüklemek yerine işin türüne uygun küçük modeli seçmek, gecikmeyi ve maliyeti düşürürken gizliliği de koruyor.