Huawei’nin yapay zeka çipleri Nvidia’yı geride bıraktı

Huawei’nin Ascend yapay zekâ çiplerinin Nvidia H800’ü geride bıraktığı bildiriliyor; bu durum, ABD’nin teknoloji kısıtlamalarına karşı bir zafer olarak değerlendiriliyor. Şirket her ne kadar çiplerinin hâlâ yabancı teknolojilerin bir nesil gerisinde olduğunu belirtmiş olsa da, son raporlar farklı bir tablo çiziyor.

Teknik bir makalede, Huawei’nin yapay zeka (AI) çiplerinin DeepSeek R1 modelinde kullanılan Nvidia H800’ü geçtiği ortaya kondu. Bu başarı, tamamen yeni AI süperdüğüm çözümü olan CloudMatrix 384’e atfediliyor.

Nvidia CEO’su Jensen Huang, Huawei’nin CloudMatrix teknolojisini daha önce defalarca övmüştü. Ancak bu, şirketin ilk kez bu AI süperdüğüm çözümünün avantajlarını bizzat paylaştığı bir durum oldu.

CloudMatrix, 384 adet Ascend 910C NPU (Nöral İşlem Birimi) ve 192 adet Kunpeng sunucu CPU’su kullanıyor. Bu SoC’ler, ultra yüksek bant genişliği ve düşük gecikme sağlayan birleşik bir veri yolu ile birbirine bağlanıyor; bu da genel performansı önemli ölçüde artırıyor.

Şirket, CloudMatrix 384’ün ABD’nin teknoloji kontrol önlemlerini aşabilecek ve yapay zekâ altyapısının temelini yeniden şekillendirebilecek önemli bir çözüm olduğunu düşünüyor.

Makale, CloudMatrix 384’ün Ascend çiplerinin DeepSeek R1’de kullanılan bazı önemli AI teknolojilerini geride bırakmasını sağladığını ortaya koyuyor. Ayrıca bu sistemin veri merkezlerinde harikalar yaratabileceği ve bilgi işlem altyapısını yönetmede etkili olabileceği belirtiliyor.

Huawei AI süperdüğüm çözümü, 4000 token uzunluğundaki istemler için her NPU başına saniyede 6688 token’lık bir işlem hacmine ulaşıyor. Burada token’lar, büyük dil modelleri (LLM) için temel birimi ifade ediyor. Token uzunluğu; maliyet, süre ve yapay zekâ modellerinin anlama kapasitesi üzerinde doğrudan etkili.

Makalede, CloudMatrix’in 4000 token uzunluğu için her NPU başına saniyede 1943 token’lık bir skora ulaştığı belirtiliyor; bu da Ascend AI çiplerinin daha verimli kullanılmasını sağlıyor. Sonuç olarak, bu metrikler Nvidia’nın LLM’lerde kullanılan çiplerini geride bırakıyor.

Son rapora göre, bu teknik makale hafta başında resmen yayımlandı. Makalenin baş yazarı Zuo Pengfei, Çarşamba günü Quora’da yaptığı bir paylaşımda şöyle dedi:

“… Huawei CloudMatrix’in kapsamlı teknoloji yığınını tamamen ve şeffaf bir şekilde ortaya koyuyor. Bu, sektörün yerli Ascend NPU’ların yeteneklerini tam olarak anlamasına yardımcı olmayı amaçlıyor. Aynı zamanda, Nvidia GPU’larını geride bırakacak şekilde geliştirilen Çin yapımı NPU’ların kullanımına olan güveni artırmayı hedefliyor.”