Teknoloji Editörü
Tam Boyutta Gör
Bir işlemcinin aşağı yukarı ne kadar büyük olduğunu kafamızda canlandırabiliyoruz. Ancak Cerebras Systems , kendi çözümlerinde ölçeği inanılmaz boyutlara taşıyor ve bunu bir süredir yapıyor. Cerebras Systems, tabak büyüklüğündeki selefi WSE-2 'nin iki katı performansa sahip en yeni yapay zeka yongası Wafer Scale Engine 3 'ü (WSE-3) tanıttı.
Bu yeni yonga, TSMC’nin 5nm üretim sürecinde üretilen 4 trilyon transistöre , 900.000 çekirdeğe , 44GB çip üstü SRAM ’e ve 125 FP16 PetaFLOPS performansa sahip. Firmaya göre WSE-3’ün bu inanılmaz işlem gücü en büyük ve en güçlü yapay zeka modellerinden bazılarını eğitmek için kullanılacak.
Dev yapay zekalar için dev işlemi ile desteklenen dev süper bilgisayar
Tam Boyutta Gör
Firma geçtiğimiz yıl WSE-2 ve CS-2 süper bilgisayarını duyurmuştu. Benzer şekilde WSE-3, Cerebras'ın CS-3 süper bilgisayarına güç veriyor ve 24 trilyon parametreye sahip yapay zeka modellerini eğitmek için işlem gücü sağlıyor. Cerebras CS-3, 1.5TB, 12TB veya 1.2PB harici belleği de destekleyebiliyor. Dolayısıyla büyük modelleri bölümleme veya yeniden düzenleme olmadan tek bir mantıksal alanda depolama, burada modelleri işlemek mümkün. Bu vesileyle de eğitim süreci daha kolay hale geliyor ve geliştirme sürecinde verimlilik artıyor.
Tam Boyutta Gör
Cerebras CS-3 , ölçeklenebilirlik bakımından da geniş bir oyun alanı sunuyor. Firmanın aktardığına göre CS-3, 2048 sisteme kadar kümeler halinde yapılandırılabilir. Bu ölçeklenebilirlik, dört sistemli bir kurulumla sadece bir günde 70 milyar parametreli modele ince ayar yapılmasına ve Llama 70B gibi bir modelin tamamıyla eğitilmesine olanak tanıyor.
Tam Boyutta Gör
Firma, CS-3’ün performansını iki katına çıkarmasına rağmen selefiyle aynı güç tüketimini koruduğunun da altını çiziyor. Bununla birlikte CS-3, GPU’lara kıyasla büyük dil modellerinin (LLM) eğitimini de oldukça basitleştiriyor. Şirkete göre GPT-3 boyutundaki bir model Cerebras platformunda yalnızca 565 satır kod (GPU’lardan yüzde 97 daha az) gerektiriyor.
Tam Boyutta Gör
Firma, CS-3’ün şimdiden büyük ilgi gördüğünü, hem devlet hem de bulut hizmeti sağlayıcılarından önemli siparişler aldığını söylüyor. Bununla birlikte Argonne Ulusal Laboratuvarı ve Mayo Clinic gibi kurumlarla sağlık alanında işbirlikleri planlanıyor. Ancak dahası da var. Cerebras ve G42 arasındaki stratejik ortaklığın büyütüleceği açıklandı. Ortaklık kapsamında 64 CS-3 sistemi (57.600.000 çekirdek ) bir yapay zeka süper bilgisayarı olan Condor Galaxy 3 'ün kurulması hedefleniyor. İki şirket zaten halihazırda dünyanın en büyük iki yapay zeka süper bilgisayarını inşa etmişti: 8 ExaFLOP performansa sahip Condor Galaxy 1 (CG-1) ve Condor Galaxy 2 (CG-2).
Kaynakça
https://www.tomshardware.com/tech-industry/artificial-intelligence/cerebras-launches-900000-core-125-petaflops-wafer-scale-processor-for-ai-theoretically-equivalent-to-about-62-nvidia-h100-gpus
https://www.cerebras.net/blog/cerebras-cs3
Eposta ile Paylaşın
başlıklı bu arkadaşınıza postalayın.
Bu haberi, mobil uygulamamızı kullanarak indirip, istediğiniz zaman (çevrim dışı bile) okuyabilirsiniz: