Qualcomm: 2028'de Telefonlarda 100B Model

Telefonların iş tanımı ağırlaşıyor. Qualcomm CEO'su Cristiano Amon, yapay zeka şirketlerinin 2028'e kadar akıllı telefonlarda sürekli çalışan 100 milyar parametreli modeller istediğini söyledi. 8 Ekim'de verdiği röportajda konuşan Amon, sektörün "her zaman açık" ajan tabanlı yapay zekaya yöneldiğini anlattı: kullanıcı bir uygulamayı açmadan, yazılımın onun adına hareket ettiği bir dönem.

Amon'un açıklaması

Amon'a göre yapay zeka şirketlerinin istediği modeller kişisel bağlamla çalışacak. Kullanıcının ne yapmak istediğini anlayacak, talebi kendi başına planlayacak ve eyleme geçecek. Bu, bugünkü "uygulama aç, komut yaz" akışından farklı bir deneyim anlamına geliyor.

Bugün nerede duruyoruz?

Talebin büyüklüğü, Qualcomm'un yeni çipleriyle karşılaştırınca daha net görünüyor. Şirket 22 Eylül'deki Snapdragon Zirvesi'nde Snapdragon 8 Elite Gen 6 ve Extreme Gen 6 platformlarını tanıttı. 2 nm teknolojisiyle üretilen bu çipler, cihaz üzerinde en fazla 30 milyar parametreli uzman karışımı (MoE) modelleri çalıştırabiliyor. 30 milyardan 100 milyara geçiş, telefonun kabaca aynı fiziksel hacminde üç kattan fazla bir sıçrama demek.

Modeli telefona nasıl sığdırıyorlar?

Qualcomm birkaç teknikten yararlanıyor. Bunlardan biri, model parametrelerini flash depolamadan yüklemek; böylece modelin tamamının aynı anda aktif bellekte durması gerekmiyor. Yeni platformlar ayrıca yapay zeka iş yüklerine ayrılan sinir işlemcisinin (NPU) kullanabildiği belleği genişletiyor. Arka planda sürekli çalışan modeller ise çok daha küçük: yaklaşık 200 milyon parametre.

Neden cihaz üstü yapay zeka?

Cihaz üstü yaklaşımın üç avantajı var: gizlilik, düşük gecikme ve daha iyi enerji verimliliği. Telefondan çıkmayan veri, başka birinin sunucusundan sızamaz; yanıtlar da internet turu atmak zorunda kalmaz. Amon, bu yeteneklerin bellek fiyatları nedeniyle ertelenen telefon yenileme talebini tetikleyebileceğini düşünüyor.

Önündeki iki engel: bellek fiyatları ve pil

Risklerse gerçek. 100 milyar parametreli modelleri telefonda çalıştırmak çok yıllı bir mühendislik işi ve 2028 hedefi, kimsenin teslim sözü verdiği bir ürün değil; yapay zeka şirketlerinin istediği seviyeyi anlatıyor. Bellek fiyatları kritik bir baskı noktası: maliyetler yüksek kalırsa bu modeller için gereken donanım, telefon fiyatlarını tam da sektörün alıcı çekmeye çalıştığı dönemde yukarı itebilir. İkinci soru "sürekli" kelimesinde saklı: bütün gün çalışan bir modelin pili öğlene kadar tüketmemesi gerekiyor.

Amon'un benzetmesi: erken iPhone dönemi

Amon, yaşananları erken iPhone dönemine benzetiyor. O dönemde platformu tanımlayan üçüncü taraf uygulamaların çoğu henüz icat edilmemişti; telefonun kimliği zamanla şekillendi. CEO'ya göre ajanlar da telefon deneyimini benzer şekilde değiştirecek ve cihazı tanımlayan şey uygulamalar değil, kullanıcı adına iş yapan yazılımlar olacak. Amon, bu yeteneklerin bellek fiyatları yüzünden ertelenen yenileme talebini karşılayacağını düşünüyor.

İzlenecek üç başlık

Bellek maliyeti: Fiyatlar yüksek kalırsa donanım maliyeti telefon fiyatlarına yansır.
Pil ömrü: "Sürekli çalışan" model gün boyu düşük güçte kalabilmeli.
NPU başarımı: 30 milyardan 100 milyar parametreye çıkış, çip tasarımı ve yazılım optimizasyonunu birlikte gerektiriyor.

Sonuç

Qualcomm'un hedefi bir vaat değil, müşterilerinden gelen bir talep. Önümüzdeki iki yılda bellek maliyetleri, pil ömrü ve NPU başarımı bu talebin ne kadarının gerçeğe dönüşeceğini belirleyecek.