OpenAI Jalapeño ASIC'lerini AMD EPYC Turin ile Çalıştırıyor: Nvidia Vera Geride Kaldı
Haberler

OpenAI Jalapeño ASIC'lerini AMD EPYC Turin ile Çalıştırıyor: Nvidia Vera Geride Kaldı

· 3 DK

Yazar: KOZBA

İçindekiler
  1. Rack ölçeğinde yerleşim
  2. "Pragmatik" tercih: Turin
  3. Socket farkı küçük ama belirleyici
  4. Jalapeño nedir?
  5. Rakamlarla özet
  6. Neden önemli?
  7. Sonuç

OpenAI'ın kendi tasarımı olan Jalapeño çıkarım yongaları, veri merkezinde Nvidia'nın yeni Vera CPU'su yerine AMD EPYC "Turin" işlemcileriyle birlikte çalışıyor. Tom's Hardware'in OpenAI donanım başkan yardımcısı Richard Ho ile yaptığı röportaja göre her host sistemi iki Turin sınıfı işlemci ve 1,5 TB bellek taşıyor.

Rack ölçeğinde yerleşim

SemiAnalysis'in aktardığı yerleşim planına göre iki rack'lik sistem; 16 "Katsu" CPU tepsisi, 128 Jalapeño yongasını taşıyan 16 "Vindaloo" hızlandırıcı tepsisi ve bunları birbirine bağlayan sekiz "Chana" anahtar tepsisinden oluşuyor. Toplam güç tüketimi yaklaşık 160 kilovat: 31 kilovat host, 130 kilovat hızlandırıcı tarafında. Tasarım 16 rack'e ve 2.048 Jalapeño hızlandırıcıya kadar ölçeklenebiliyor.

OpenAI'ın verdiği rakamlara göre sistem, GPT-OSS 120B ve DeepSeek R1 670B üzerindeki referans testlerde watt başına 1,5 ile 1,9 kat daha fazla işlem yapıyor ve uçtan uca gecikmede 1,7 ile 3,6 kat iyileşme sağlıyor.

"Pragmatik" tercih: Turin

Ho, AMD seçimini risk almadan hızlı tasarım yapma gerekçesiyle açıklıyor: "Jalapeño programında çok pragmatik kararlar almaya çalıştık. Performans ve maliyet hedeflerinde agresif olmak istedik ama gereksiz risk almak istemedik." Değerlendirmesinde Nvidia Vera için "tek başına, o olgunluk seviyesinde biraz geride" ifadesini kullanıyor ve ekliyor: "Turin güçlü bir cihaz, ihtiyacımızı karşıladı; üstelik iş ortaklarımızın bu ekosistemde deneyimi var."

Bu ifade, Nvidia'nın kendi CPU'su konusunda iddialı pazarlama yapmasına karşın müşterilerin platform olgunluğuna baktığını gösteriyor. Nvidia, Vera için AMD Turin sistemlerine karşı 1,8 kata kadar avantaj duyuruyor; ancak bu rakam SPEC CPU 2026 testinin çekirdek başına skorlarından türetilmiş ve toplam benchmark performansında fark yalnızca yüzde 3 civarında kalıyor.

Socket farkı küçük ama belirleyici

Pratik bir ayrıntı da var: Turin standart soketlerde çalışırken Vera ana karta monte geliyor. Üretim sunucularında nadiren önem taşıyan bu fark, arıza durumunda yonga değişimini zorlaştırdığı için büyük ölçekli rack kurulumlarında x86 lehine bir tercih nedeni oluyor.

Jalapeño nedir?

Jalapeño, OpenAI'ın kendi çıkarım yongası. Kasım 2025'te tape-out edilen çip, şirketin kendi servis ettiği modellerde hâlihazırda gerçek iş yüklerini karşılıyor. Ho'ya göre tasarım sürecinin bir bölümünde yapay zeka destekli araçlar kullanıldı; hedef, çıkarım maliyetini düşürürken gecikmeyi kısaltmaktı.

Rakamlarla özet

  • Host yapılandırması: iki AMD EPYC Turin + 1,5 TB DRAM
  • Rack düzeni: 16 CPU tepsisi, 16 hızlandırıcı tepsisi, 8 anahtar tepsisi
  • Yonga sayısı: iki rack'te 128 Jalapeño, ölçeklenme sınırı 2.048
  • Güç: yaklaşık 160 kW (31 kW host, 130 kW hızlandırıcı)
  • İddia edilen kazanç: watt başına 1,5-1,9 kat işlem, 1,7-3,6 kat daha düşük gecikme

Neden önemli?

OpenAI'ın AMD'yi seçmesi, Nvidia'nın veri merkezi CPU pazarındaki yeni iddiasının ilk büyük müşteri testlerinden biri olarak okunabilir. Aynı zamanda kendi yongasını tasarlayan bir model şirketinin tedarik zincirinde tek kaynağa bağlı kalmadığını gösteriyor: performans hedefi kadar tedarik ve servis edilebilirlik de tasarım kararına giriyor.

Kısa vadede etki, OpenAI'ın çıkarım maliyetlerinde ve kapasite planlamasında görülecek. Uzun vadede ise Arm tabanlı CPU'ların veri merkezine giriş hızını bu tür tercihler belirleyecek.

AMD açısından da bu bir referans: en büyük yapay zeka laboratuvarlarından biri, kendi tasarladığı yongayı AMD tabanlı bir sunucuda çalıştırıyor. Nvidia tarafında ise mesaj net: Vera'nın teknik iddiaları ne kadar güçlü olursa olsun, büyük ölçekli kurulumlarda karar yazılım ekosistemi, servis edilebilirlik ve tedarik güvencesiyle birlikte veriliyor.

Sonuç

Jalapeño'nun AMD Turin ile çalışması, donanım tarafında "en iddialı" olanın değil "en olgun" olanın kazandığı bir tercih. Nvidia'nın Vera'sı için asıl sınav, önümüzdeki çeyreklerde benzer büyük ölçekli kurulumlarda tercih edilip edilmeyeceği olacak.

Paylaş