Microsoft nihayet kendi özel çipleri için resmen düğmeye bastı. Azure Maia 100 ve Cobalt 100 çipleri, Microsoft tarafından bulut altyapısı için tasarlanan yapay zeka hedefli iki slikon konumunda.
Microsoft, büyük dil modellerini eğitmek ve potansiyel olarak Nvidia'ya olan maliyetli bağımlılıktan kaçınmak için kullanılabilecek kendi özel yapay zeka çipini oluşturdu. Microsoft ayrıca bulut iş yükleri için kendi Arm tabanlı CPU'sunu da inşa etti. Her iki özel silikon çip de Azure veri merkezlerine güç sağlamak için tasarlandı.
Microsoft'un Azure Maia AI çipi ve Arm destekli Azure Cobalt CPU'su Nvidia'nın üretken görüntü araçlarını ve büyük dil modellerini eğitmek ve çalıştırmak için yaygın olarak kullanılan H100 GPU'larına yönelik bu yılki talep artışının ardından 2024'te geliyor. Microsoft, her iki yonganın da TSMC'deki "en son işlem düğümünde" üretildiğini söyledi.
Microsoft Azure Maia 100 ve Cobalt 100 tanıtıldı
Bu çipler, Microsoft'un Copilot, Azure OpenAI ve diğer hizmetlerini çalıştırmaya başlayacak olan Microsoft'un veri merkezlerinde "önümüzdeki yılın başlarında" ortaya çıkacak. Kaç adet çipin kullanılacağı sorusu ise şimdilik cevapsız ancak Microsoft, veri merkezlerinde çevrimiçi "ilk sunucular" ile "dağıtımın ilk aşamalarında" olduğunu söyledi. Dolayısıyla bir süre daha Nvidia ve AMD çözümleri kullanılmaya devam edilecek.
Öte yandan Microsoft'un teknik özelliklerle ilgili fazla bilgi vermemesi, yeni çözümleri Nvidia ve AMD seçenekleriyle karşılaştırmayı zorlaştırıyor.
Microsoft Azure Maia 100
Microsoft tarafından açıklananlara göre Azure Maia 100, 5 nanometrelik bir süreçte üretiliyor ve 105 milyar transistöre sahip - AMD’nin MI300X’ünden yüzde 30 daha az. Firmaya göre bu detaylar Maia 100’ü en büyük çiplerden biri haline getiriyor. Microsoft, Maia'nın sunucuları, daha iyi ölçeklendirme ve uçtan uca iş yükü performansı sağlamak için hızlandırıcı başına 4,8 terabit toplam bant genişliğine sahip tamamen özel bir Ethernet tabanlı ağ protokolü ile tasarlandığının altını çiziyor. Microsoft, Maia 100 AI hızlandırıcısını büyük dil modeli eğitimi ve çıkarımı gibi bulut AI iş yüklerini çalıştırmak için tasarlandığını ve dahili olarak OpenAI ile birlikte çalışıldığını söylüyor.
Microsoft Azure Cobalt 100
Bir diğer özel çözüm olan Cobalt 100 ise Arm tabanlı bir donanım ve firmaya göre güç verimliliği göz önünde bulundurularak tasarlanmış. Azure Cobalt 100, ARM Neoverse CSS tabanlı Arm'dan lisanslı bir tasarım kullanıyor. 64-bit 128 çekirdekli çip, mevcut Azure Arm sunucu işlemcilerine göre %40'a varan performans iyileştirmeleri sağlıyor. Microsoft şu anda Cobalt CPU'sunu Microsoft Teams ve SQL server gibi iş yükleri üzerinde test ediyor ve önümüzdeki yıl çeşitli iş yükleri için sanal makineleri müşterilerin kullanımına sunmayı planlıyor.Microsoft, özellikle Azure Maia 100 için özel raf ve soğutma tasarımları da geliştirmiş durumda ve bunlar endüstri ortaklarıyla da paylaşılıyor. Şirket halihazırda hem Maia AI Accelerator hem de Azure Cobalt CPU'nun ikinci nesil versiyonları üzerinde çalışıyor. Zaten isimlendirmeden bunların ilk nesil olduğu anlaşılıyor.
Microsoft ayrıca AMD ve Nvidia ile yeni ortaklıklar kurduğunu da duyurdu. AMD tarafında Microsoft, AMD MI300X sanal makinelerini Azure platformuna ekleyecek. Nvidia tarafında ise Nvidia'nın H00 Tensor Core GPU'ları için tasarlanan yeni NC H100 v5 Virtual Machine Series bulunuyor. Microsoft Azure Cobalt 100 ve Azure Maia 100 hakkında detaylı teknik özellikler ve kıyaslamalar henüz yok ancak bunların yakında elimize ulaşacağını düşünüyoruz.