İçindekiler
NVIDIA, RTX Spark bilgisayarların 16 Ekim'deki lansmanı öncesinde yerel yapay zeka ekosistemi için bir dizi güncelleme duyurdu. Bunların başında, doğrudan yerel ajanlar için tasarlanan Nemotron 3.5 Bolt 74B modeli geliyor. Şirkete göre RTX Spark; oyun bilgisayarı, yaratıcı stüdyo ve kişisel yapay zeka süper bilgisayarını tek bir süper çipte birleştiren yeni bir PC anlayışı.
74B parametre, 9B aktif parametre, 24 GB bellek
15 Ekim'de yayınlanan NVIDIA Nemotron 3.5 Bolt 74B-A9B, 74 milyar parametreli ve 9 milyar aktif parametreli bir uzman karışımı (MoE) modeli. Model, gelişmiş kuantizasyon farkındalıklı eğitim teknikleriyle 2-bit kuantizasyon kullanılarak 24 GB belleğe sığdırılmış. NVIDIA'ya göre hedef, hız ile zeka arasında en iyi dengeyi kurmak: popüler yoğun (dense) modellerden hızlı, benzer bellek ayak izine sahip popüler MoE modellerinden ise daha akıllı olmak.
Nerede çalışıyor?
Kullanıcılar modeli lansmanla birlikte llama.cpp, vLLM, Ollama, Unsloth ve LM Studio üzerinden çalıştırabilecek. Ayrıca Hermes ve OpenClaw gibi ajanlar üzerinden doğrudan erişilebilecek. Diğer Nemotron modellerinde olduğu gibi Bolt 74B tamamen açık kaynak: eğitim verisi, ağırlıklar ve tarifler (recipes) dahil. Böylece geliştiriciler kendi ajanlarını ince ayardan geçirip özelleştirebiliyor.
Yerel ajanlar için güvenlik katmanı: OpenShell ve MXC
RTX Spark'ta ilk açılışta kullanıcıları bir "Başlangıç" ekranı karşılayacak ve kurmak istedikleri ajan uygulamasını seçmelerine izin verecek. Bu ajanlar NVIDIA OpenShell ve Microsoft Execution Containers (MXC) sayesinde yeni ve güvenli bir sanal alan (sandbox) teknolojisiyle gelecek. MXC işletim sistemi düzeyinde güvenlik sağlarken, OpenShell ajanların MXC'yi benimsemesini kolaylaştırıyor ve kimlik bilgisi koruması ile güvenlik izleme gibi yetenekler ekliyor. Hermes Agent, OpenShell'in ayrıntılı kontrollerini ve MXC'yi ay sonuna kadar entegre edecek; OpenClaw ve GitHub Copilot ise MXC'yi destekliyor.
Yerel ve bulut arasında akıllı yönlendirme
Birçok kullanıcı iki dünyanın en iyisini istiyor: serbest deneme için yerel modeller, en ileri zeka için bulut modelleri. NVIDIA Switchyard adlı açık kaynak model yönlendirici kütüphanesi, ajanların sorguları yerel ve bulut LLM'ler arasında akıllıca yönlendirmesini sağlıyor. Böylece kullanıcı bulut kullanımını en aza indirirken benzer sonuçlar alabiliyor. Hermes, Switchyard'ı Ekim ayı içinde ekleyecek; Perplexity Computer ve GitHub Copilot ise kendi yönlendirme çözümlerini entegre etti.
Kişisel yapay zeka yönlendiricisi PAIR betadan çıktı
NVIDIA PAIR, yerel ağdaki uyumlu bilgisayarların toplam yapay zeka gücünden yararlanmayı kolaylaştıran ücretsiz ve açık kaynak bir "kişisel yapay zeka yönlendiricisi". Cihazları otomatik keşfediyor, bağlıyor, modelleri ve çıkarım motorlarını kuruyor, iş yüklerini müsait sistemlere dağıtıyor. Resmî sürüm; llama.cpp desteği, Hugging Face'ten doğrudan model indirme, özelleştirilebilir çıkarım motoru ayarları ve RTX Spark desteği ekliyor. PAIR Windows, Linux ve macOS'ta çalışıyor.
Yerel model kullanımı patladı
NVIDIA'nın verilerine göre ajan popülerliği bu yıl gökyüzüne çıktı; OpenClaw ve Hermes gibi projeler GitHub popülerlik listelerinde zirveye oynuyor. Yerel LLM'ler ajanları çalıştıracak zeka eşiğini geçti; Qwen 3.8-Flash-Next gibi modeller birkaç ay önce çıkmış bulut modellerine yetişiyor. Sonuç olarak yerel LLM indirmeleri geçen yılın tamamının beş katını aştı. Yeni PC anlayışı, 128 GB'a kadar birleşik bellek ve 1 petaflop yapay zeka hesaplama gücü vadediyor.
Diğer ekosistem güncellemeleri
NVIDIA Broadcast 2.3, video süper çözünürlük, video kare üretimi, çevrimdışı dosya işleme ve ajan MCP kontrolleri getiriyor. Adobe, Photoshop ve Premiere gibi uygulamalarını RTX Spark için optimize ederek yaratıcı iş akışlarında 2 kata kadar hız vadediyor. Ayrıca 16 Ekim'de 2 kat daha hızlı DLSS 5 modeli, 23 Ekim'de ise oyun karakterleri için Nemotron 3.5 Bolt E4B 4GB küçük dil modeli yayınlanacak.