Anlık Bildirim

AMD'den yapay zeka hamlesi: İlk küçük dil modelini tanıttı

AMD, yapay zeka alanında donanımın yanında yazılım tarafına da yatırım yapıyor. Şirket, Llama ailesine ait olan ve özel işletmeleri hedefleyen ilk küçük dil modeli AMD-135M'yi tanıttı.
AMD'den yapay zeka hamlesi: İlk küçük dil modelini tanıttı Tam Boyutta Gör
AMD, yapay zeka alanında donanımın yanında yazılım tarafına da yatırım yapıyor. Böylece Nvidia'nın henüz hakim olmadığı yeni pazar segmentlerine ulaşmaya çalışıyor. Şirket, Llama ailesine ait olan ve özel işletmeleri hedefleyen ilk küçük dil modeli AMD-135M'yi tanıttı.

Tahminsel kod çözme ile yüksek hız

AMDi yeni dil modelinin "Tahminsel kod çözme" özelliğini kullandığını bu sayede oldukça hızlı olduğunu belirtiyor. Tahminsel kod çözmede, tek bir seferde birden fazla aday token (jeton) üreten daha küçük bir "taslak model" yer alıyor. Bu token'lar daha sonra daha büyük ve daha doğru olan "hedef model"e iletilerek doğrulanıyor veya düzeltiliyor. Böylece, her işlemde birden fazla token üretilip doğrulandığı için, performans kaybı yaşamadan daha hızlı ve verimli sonuçlara ulaşılıyor. AMD'nin iddiasına göre, yeni model aynı donanımda 2 ila 3 kat hız artışı sağlıyor.  Ancak artan veri işleme süreçleri güç tüketimini de arttırıyor.

AMD'nin yeni modeli iki versiyonda geliyor: AMD-Llama-135M ve AMD-Llama-135M-code. Her biri, tahminsel kod çözme teknolojisini kullanarak çıkarım performansını hızlandırarak belirli görevleri optimize etmek üzere tasarlandı.  

Temel model olan AMD-Llama-135M, 670 milyar genel veri token'ı üzerinde sıfırdan eğitildi. Bu süreç, dört adet 8 yollu AMD Instinct MI250 tabanlı sistem kullanılarak 6 gün sürdü. AMD-Llama-135M-code ise, özellikle kodlamaya odaklanan 20 milyar ek token ile ince ayarlandı ve aynı donanım kullanılarak bu görev 4 günde tamamlandı. AMD, ileride daha fazla optimizasyonun daha iyi performans sağlayabileceğini belirtiyor.

Kaynakça https://community.amd.com/t5/ai/amd-unveils-its-first-small-language-model-amd-135m/ba-p/711368 https://www.amd.com/en/developer/resources/technical-articles/introducing-amd-first-slm-135m-model-fuels-ai-advancements.html?utm_source=organic&utm_medium=community&utm_campaign=blog&utm_id=amd35 Bu haberi, mobil uygulamamızı kullanarak indirip,
istediğiniz zaman (çevrim dışı bile) okuyabilirsiniz:
DH Android Uygulamasını İndir DH iOS Uygulamasını İndir
Sorgu:

Editörün Seçtiği Sıcak Fırsatlar

Sıcak Fırsatlar Forumunda Tıklananlar

Tavsiyelerimiz

Yeni Haber
şimdi
Geri Bildirim