Huawei MACaQ Açık Kaynak Yayınlandı: 122B Model 64 Dakikada 4 Bit'e İndi
Huawei hesaplama laboratuvarı MACaQ'yı Apache 2.0 ile açtı: 122 milyar parametreli model 64 dakikada 4 bit ağırlık ve aktivasyona indirildi, tepe bellek 32,5 GB'ta kaldı.
4 haber
Huawei hesaplama laboratuvarı MACaQ'yı Apache 2.0 ile açtı: 122 milyar parametreli model 64 dakikada 4 bit ağırlık ve aktivasyona indirildi, tepe bellek 32,5 GB'ta kaldı.
DeepSeek, üretimdeki büyük ölçekli çıkarım çatısı DeepInfer'ı Apache 2.0 lisansıyla açık kaynağa açtı. Çatı şimdilik yalnızca DeepSeek-V4.1-Flash'ı destekliyor ve NVIDIA SM100 ile Huawei Ascend 950 üzerinde çalışıyor.
DeepSeek, Huawei Ascend 950 çipleri için geliştirdiği TileLang ve alt yazılım araçlarını açık kaynaklı hale getirdi. Nvidia CUDA ekosistemine alternatif sunan paket, 128 çiplik süperdüğüm çözümleriyle yerli işlemcilerde tam performans hedefliyor.
Huawei, Ascend serisi yapay zeka işlemcileriyle Çin pazarında Nvidia'yı geride bıraktı. ABD ambargolarının ardından yerli çiplere yönelen Çinli şirketler, sistem düzeyinde ölçekleme ve yeni yazılım araçlarıyla tedarik güvenliğini garanti altına alıyor.