Uygulama ile Aç

AMD’den Nvidia’ya yapay zekada Instinct MI325X yanıtı: MI350 ve MI400 yolda

AMD, veri merkezleri ve bulut bilişimi için CDNA 3 tabanlı Instinct MI325X, CDNA 4 tabanlı MI350X ve yepyeni mimariyle gelecek MI400 gibi yeni yapay zeka hızlandırıcılarını duyurdu.

AMD Computex'e oldukça önemli duyular gerçekleştirdi. Bunlardan birisi de 2024'ün dördüncü çeyreğinde satışa sunulacak olan yeni Instinct MI325X hızlandırıcıları; gelecek yıl piyasaya sürülecek olan CDNA4 mimarisiyle çalışan Instinct MI350 serisi ve 2026'da piyasaya sürülecek olan tamamen yeni CDNA 'Next' tabanlı Instinct MI400 serisi. Bunların tamamı Nvidia’nın yapay zeka hakimiyetini sarsmak için tasarlandı.

Computex kapsamında Nvidia tarafından yeni bir ürün duyurusu görmedik ve dolayısıyla sahayı tamamıyla AMD’ye bıraktı. Öte yandan kırmızılı ekip ise bu hediyeyi agresif bir yol haritasıyla taçlandırdı. AMD, yeni yol haritasında gelişmiş komut setleri, daha yüksek bellek kapasitesi ve bant genişliği ile yapay zeka ve HPC performansında sürekli artış taahhüt ediyor.

Instinct MI325X

Bunun ilk adımı ise mevcut MI300 serisi ile aynı CDNA 3 mimarisini kullanacak olan AMD Instinct MI325X AI hızlandırıcısı. Instinct MI325X, 288 GB HBM3E bellek, 6 TB/s bellek bant genişliği, 1,3 PFLOPs FP16 ve 2,6 PFLOPs FP8 hesaplama performansına sahip olacak ve sunucu başına 1 trilyon parametreye kadar işlem yapabilecek.

Ayrıca bkz.

AMD EPYC Turin: 3nm, 192 çekirdek, 384 iş parçacığı ve dahası

 

Bunları bir zemine oturtmak için AMD, Nvidia’nın yok satan H200’üyle kıyaslama sunuyor. Buna göre Instinct MI325X, iki kat bellek, 1,3 kat belelk bant genişliği, 1,3 kat FP16, 1,3 kat FP8 ve sunucu başına iki kat daha büyük model boyutu sunuyor. Instinct MI325X'in Nvidia'nın B100/B200 hızlandırıcılarına karşı rekabet edeceğini de unutmamak gerek. Yeni hızlandırıcı 2024 yılının 4. çeyreğinde piyasaya sürülmesi planlanıyor.

Instinct MI350

Bunu takiben, 2025 yılında AMD CDNA 4 mimarisi üzerine inşa edilen MI350 serisinin geleceği duyuruldu. Bu seri, mevcut MI300 serisine kıyasla yapay zeka çıkarım performansında 35 kat artış vaat ediyor. Bu oldukça radikal bir artış, özellikle CDNA 3 mimarisinin CDNA 2'ye göre 8 kat artış getirdiği düşünüldüğünde.
Instinct MI350 serisi, 3nm sınıfı bir işlem teknolojisi kullanacak ve yapay zeka performansını ve verimliliğini artırmak için yeni veri formatları (FP4 ve FP6) ve talimatlarını destekleyecek. FP4/FP6 veri türleri Blackwell GPU'ları tarafından da destekleniyor. AMD, ayrıca Instinct MI350 serisinin 288 GB'a kadar HBM3E bellek sunacağının da altını çiziyor.

AMD, Blackwell B200 GPU'larına karşı bazı karşılaştırma rakamlarını da paylaşıyor. MI350 serisinin B200'e kıyasla yüzde 50 daha fazla bellek ve yüzde 20 daha fazla işlem TFLOP'u sunması bekleniyor. Nvidia ise 2025 yılı için Blackwell Ultra GPU'sunu hazırlıyor.

AMD aynı zamanda 2026 yılında Instinct MI400 serisini yeni CDNA mimarisiyle birlikte piyasaya sürecek. Şimdilik bu donanım hakkında herhangi bir ayrıntı mevcut değil.

AMD ekosistemi de geliştiriyor

AMD, ROCm 6 yazılım yığınının MI300X hızlandırıcılarının performansını en üst düzeye çıkarmada çok önemli bir rol oynadığını söyledi. Şirketin yaptığı kıyaslamalar, sekiz MI300X hızlandırıcı kullanan sistemlerin Meta Llama-3 70B model çıkarımı ve token üretiminde Nvidia'nın H100'ünden 1,3 kat daha iyi performans gösterdiğini ortaya koydu. Tek MI300X hızlandırıcıları da Mistral-7B model görevlerinde üstün performans göstererek AMD'nin testlerine göre rakibini 1,2 kat geride bıraktı.



Haberi DH'de Gör Yorumlar ve Diğer Detaylar
Whatsapp ile Paylaş

Beğenilen Yorumlar

Tümünü Gör
1 Yorumun Tamamını Gör