Intel, yeni yapay zeka hızlandırıcısı Gaudi 3'ü tanıttı: Nvidia H100'den %50 daha hızlı
Intel, yeni AI hızlandırıcısı Gaudi 3'ü duyurdu. Nvidia'nın H100'üne rakip olan Gaudi 3, rakibinden 1.7 kat daha yüksek eğitim performansı, %50 daha iyi çıkarım ve %40 daha yüksek verimlilik sunuyor.
Intel'in Gaudi 3'ü, şirketin 2019'da Habana Labs'ı 2 milyar dolara satın almasının meyvesi olan Gaudi hızlandırıcının üçüncü neslini temsil ediyor. Gaudi hızlandırıcıları, 2024'ün 3. çeyreğinde yüksek hacimli üretime girecek ve OEM'lere sunulmaya başlanacak.
Intel Gaudi 3 özellikleri
Gaudi iki form faktörüyle gelecek. İlki, OAM (OCP Hızlandırıcı Modülü) HL-325L, yüksek performanslı GPU tabanlı sistemlerde bulunan Mezzanine form faktörü. Bu hızlandırıcı, 3,7 TB/s bant genişliği sağlayan 128 GB HBM2e belleğe ve 900W TDP'ye sahip olacak. Hızlandırıcı, FP8'de 1.835 TFLOPS performans sunabilecek. OAM'ler, sunucu düğümü başına 8'li gruplar halinde dağıtılacak ve 1.024 düğüme kadar ölçeklenebilecek. Diğer form faktörü ise, PCIe kart şeklinde pasif soğutmaya ve 600W TDP'ye Gaudi 3 HL-338 olacak.
Bana çok korkutucu geliyor bunlar.