Uygulama ile Aç

ChatGPT gibi botlar Nvidia H100 grafik birimine emanet

ChatGPT benzeri üretken yapay zekâ teknolojileri ile ürünlerini donatan Microsoft, yüksek yoğunluk gerektiren durumlar için Nvidia H100 hızlandırıcılarına başvuruyor.

ChatGPT sohbet robotunun fırtınalar kopardığı bu dönemde, yapay zekâya büyük yatırım yapan Nvidia’nın da bu fırtınadan en büyük payı kapacağı gündeme gelmişti. Microsoft ve Nvidia yeni ortaklıklarını duyurdu.

Microsoft Azure altyapısına Nvidia H100 dopingi

Microsoft Azure bulut işlem altyapısı Nvidia H100 grafik birimleri ile güçlendiriliyor. Yeni sunucularda sanal makineler çalıştırılacak ve ChatGPT gibi üretken yapay zekâ teknolojilerine alan sağlanacak.

Ayrıca bkz.

AiMi DJ uygulaması indirmeye sunuldu

ChatGPT örneğinde olduğu gibi bu tür üretken yapay zekâ teknolojilerine olan ilgi oldukça fazla ve süper bilgisayar seviyesinde performans gereksinimi ortaya çıkıyor. Microsoft da Bing ve Edge ürünlerine üretken yapay zekâ teknolojileri eklemişti. NVIDIA H100 ile inşa edilmiş ND H100 v5 sanal makineleri Microsoft Azure altyapısının bu ihtiyacını karşılıyor.

Sanal makinelerde 8 adet Nvidia H100 grafik birimleri yer alıyor. Grafik birimleri NVSwitch ve NVLink 4.0 bağlantıları ile 3.6TB/s iç iletişim kurabiliyor. Dördüncü nesil Intel Xeon ölçeklenebilir işlemciler ile desteklenen makineler her GPU için 64GB/s bant genişliği ve 16 kanal DDR5 4800MHz DIMM bellekler sunuyor.



Haberi DH'de Gör Yorumlar ve Diğer Detaylar
Whatsapp ile Paylaş

Beğenilen Yorumlar

Tümünü Gör
2 Yorumun Tamamını Gör