AWS SageMaker Eğitim Oturumları: GPU Yönetmeden Fine-Tune

Amazon Web Services, SageMaker AI platformunda "training sessions" (eğitim oturumları) özelliğini 22 Ekim'de genel kullanıma açtı. Amaç net: Geliştirici eğitim döngüsünü kendi koduna yazsın, GPU'ları AWS yönetsin. Böylece ajanları şirkete özel iş akışlarına ve araç kullanımına hazırlayan ekipler, her deney için ayrı altyapı kurmak zorunda kalmıyor.

Eskiden ne vardı, şimdi ne değişiyor?

SageMaker yıllardır ince ayar destekliyor. 2023'te Llama 2 özelleştirmesi JumpStart üzerinden duyurulmuştu; geliştiriciler kendi eğitim script'lerini SageMaker Training Jobs'a da verebiliyordu. Ancak o modelde örnek tipi, eğitim ortamı ve dağıtık eğitim yapılandırması gibi kararlar müşteride kalıyordu. Aralık 2025'te gelen serverless özelleştirme ise hesaplama kaynaklarının seçimini AWS'ye bıraktı.

Training sessions, bu iki yaklaşımı birleştiriyor: Geliştirici tek tek işlemleri (yanıt üretme, güncelleme hesaplama, uygulama) API çağrılarıyla yönetiyor; GPU yürütmesini AWS üstleniyor. Kod, işlem sırasını değiştirebiliyor, özel öğrenme hedefleri tanımlayabiliyor ve eğitim aşamalarını birleştirebiliyor.

Eğitim döngüsü nasıl işliyor?

AWS, işi müşteri kodu ile yönetilen servis arasında bölüyor. Müşterinin yazılımı deneyi yönetiyor, ajanı araçlara veya simüle ortamlara bağlıyor ve davranışı puanlıyor. SageMaker ise yanıt üretme ve model güncelleme için gereken yoğun hesaplamayı yapıyor. AWS'nin örneği Group Relative Policy Optimization (GRPO): Model bir isteme birkaç yanıt üretiyor, müşterinin puanlama fonksiyonu bunları değerlendiriyor, servis göreli puanları kullanarak güncelleme yapıyor. Model, işlemler arasında GPU belleğinde kalıyor; geliştirici sonuçları incelemek için eğitimi duraklatabiliyor.

Hem LoRA (modelin küçük eklerini eğitme) hem de tam ince ayar (tüm parametreleri güncelleme) serverless kapsamda sunuluyor. AWS'nin yayınlanan cookbook'u LoRA örneğini gösteriyor; blog yazısı her iki yaklaşımın her modelle eşleştiğini belirtmiyor.

Hangi modeller ve bölgeler destekleniyor?

Desteklenen modeller: gpt-oss-20b, gemma-4-31B-it, Qwen3.6-27B ve Qwen3.8-27B.
Bölgeler: Kuzey Virginia, Oregon ve Mumbai (Qwen3.8-27B'nin bölge bilgisi henüz net değil).
Varsayılan kota: Aynı anda iki eğitim oturumu (ayarlanabilir).
Geliştirme ortamı: SageMaker Python SDK (Python 3.10-3.12, Linux/macOS) veya SageMaker Studio.

Faturalama: Token bazlı ve puanlama sırasında duruyor

AWS, GPU rezervasyonu yerine işlenen token üzerinden ücret alıyor. Eğitim oturumu sayacı, müşterinin kendi puanlama kodu bir partiyi değerlendirirken duruyor. Bu, değerlendirme uzun sürdüğünde maliyet açısından avantaj olabilir; ancak uygulamanın tamamı bedava olmuyor. Depolama, ayrı kullanılan hesaplama, değerlendirme servisleri ve üretim çıkarımı ayrı kalemler. AWS, dolar bazlı birim fiyat veya örnek toplam eğitim faturası paylaşmıyor; fiyatlandırma sayfasına yönlendiriyor.

Erken kullananlar ne yapıyor?

AWS, ImagineSoftware ve Karini AI'yı erken müşteri olarak gösteriyor. ImagineSoftware, sağlık sigortası hasar reddi sınıflandırması için pekiştirmeli öğrenme ile model geliştirmiş. Karini AI ise gpt-oss-20b'yi Amazon Neptune bilgi grafiğiyle çok adımlı konuşan bir ajana uyarlamış; şirket, kurulum yükünün azalmasını ve eğitime kaydedilen noktadan devam edilebilmesini öne çıkarıyor. Yayınlanan duyuruda doğruluk, maliyet veya devreye alma hızına dair karşılaştırmalı müşteri rakamı yok.

Rakip tablo ve sınırlar

Bu alan boş değil: Thinking Machines Lab'ın Tinker ürünü benzer bir yaklaşımla yanıt üretme, model güncelleme ve ilerleme kaydetme arayüzleri sunuyor ve fiyatlandırmasında girdi işleme, örnekleme ve eğitimi ayırıyor. AWS'nin avantajı, hâlihazırda AWS kullanan kurumlar için mevcut kimlik, şifreleme ve ağ kontrollerine entegrasyon. AWS, eğitim verisi ve kontrol noktalarının müşterinin kendi S3 alanında kaldığını, müşteri verisinin başka model eğitmek için kullanılmadığını söylüyor.

Yine de teknik yargı ortadan kalkmıyor: Modelin ne öğrenmesi gerektiği, ödül fonksiyonunun istenen davranışı teşvik edip etmediği ve iyileşmenin görülmemiş örneklerde sürüp sürmediği müşterinin sorumluluğunda.

Sonuç

Training sessions, ince ayar veya pekiştirmeli öğrenmeyi SageMaker'a ilk kez getirmiyor; altyapı yapılandırmasını azaltan daha esnek bir yol sunuyor. Ajanlarını kendi araçlarına ve iş akışlarına alıştırmak isteyen ekipler için denenebilir bir kapı. Karar için doğru test, özelleştirilmiş modeli mevcut yaklaşımla görev tamamlama, hata oranı ve toplam işletme maliyeti üzerinden karşılaştırmak.