Axelera, Titania ile bellek içi hesaplamayı veri merkezlerine taşıyor
Hollandalı yonga üreticisi Axelera AI, eğitilmiş yapay zekâ modellerini veri merkezlerinde çalıştıracak Titania mimarisini ayrıntılandırdı. Tasarım, programlanabilir işlemcileri özel hesaplama birimleriyle birleştiriyor ve birçok rakibinden farklı bir bellek kullanıyor. Şirket, mevcut tesislere yerleşebilecek kartlar ve sunucu taban kartları planlıyor. Böylece daha önce uç cihazlara odaklanan ürün ailesi için veri merkezlerine uzanan yeni bir kullanım alanı açıyor.
Yapay Zekâ··Öğle
Uç cihazlardan veri merkezlerine
Hollandalı yarı iletken geliştiricisi Axelera AI, 12 Kasım’da Titania mimarisinin ayrıntılarını açıkladı. Tasarım, şirketin bellek içi hesaplama yaklaşımını veri merkezlerindeki çıkarım işlerine taşıyor. Çıkarım, eğitilmiş bir modelin gelen isteğe yanıt üretmek için çalıştırılması demek. Önceki Metis ve Europa ürünleri, verinin toplandığı cihazlara yakın çalışan görüntü işleme, otomasyon ve robotik uygulamalarına odaklanıyordu. Titania ise daha büyük modelleri kendi tesislerinde veya bulut altyapısında çalıştıran kuruluşları hedefleyen yol haritasını genişletiyor.[1], [2]
Bellek tercihi tasarımı belirliyor
Titania, programlanabilir işlemci çekirdekleriyle özel yapay zekâ birimlerini yongacıklar içinde birleştiriyor. Tasarım, birçok gelişmiş hızlandırıcıda kullanılan yüksek bant genişlikli bellek yerine LPDDR6 belleği seçiyor; yonga üzerindeki hızlı bellek de hesaplamaya eşlik ediyor. Axelera bu bileşimi, büyük modellerin ağırlıklarını hazır tutarken veri hareketini yönetmenin bir yolu olarak sunuyor. Bellek tercihi açıklamanın temel parçalarından biri. Şirketin beklediği enerji ve gider avantajlarının gerçekleşmesi ise geliştirilen donanımın uygulamadaki başarımına bağlı.[1]
Kartlar ve mevcut yazılım araçları
Yol haritasında hızlandırıcı kartlar ile sunucu taban kartları bulunuyor. Planlanan düzenler hem hava hem sıvı soğutmayı kapsıyor; Axelera bunları mevcut rafların ve tesislerin sınırları içinde çalışacak biçimde geliştiriyor. Şirket, Voyager geliştirme ortamını ve AxeleraScript araçlarını donanım nesilleri arasında sürdürerek müşterilerin yazılım çalışmalarını korumayı da hedefliyor. Yeni açıklama mimariyi ve kurulum planlarını ayrıntılandırıyor; üretimdeki Titania sistemlerinden bağımsız ölçümler sunmuyor. Ürünün uygulamadaki karşılığı, donanımın teslimiyle yazılım desteğinin birlikte sağlanmasına bağlı.[1]
