Eigen RadarYapay Zekâ
Arşiv
Analiz

Marvell, yeni Structera X ile yapay zekâ çıkarımında paylaşılan belleği genişletiyor

Marvell, Structera X bellek genişletme denetleyicilerinin ikinci kuşağını duyurdu; bellek kanalı sayısı dörtten altıya çıkıyor. Tasarım, uzayan model bağlamlarının bellek ihtiyacı dâhil çıkarım ve öneri sistemi işlerini hedefliyor. Sunucular arasında paylaşım, bellek yolunda sıkıştırma ve hata koruması mimarinin parçaları. Yeni denetleyicilerin örnek gönderimi 2027’nin ilk çeyreği için planlanıyor.

Yapay Zekâ··Sabah
Tezgâhtaki devre kartında bellek modüllerinin yanındaki tek denetleyici.

Structera X, dört bellek kanalından altıya geçiyor

Marvell, ikinci kuşak Structera X bellek genişletme denetleyicilerini 12 Ekim’de duyurdu. Yeni tasarım, önceki kuşağın dört bellek kanalından altı kanala geçiyor ve bulut hizmetleri ile büyük ölçekli veri merkezlerinde yapay zekâ çıkarımını hedefliyor. Ürün hattı, Temmuz 2024’te tanıtılan ilk Structera tasarımının devamı. Yeni gelişme, model hizmetlerinde kullanılacak bellek mimarisinin genişletilmesi. Altı kanala geçiş, denetleyicinin bellek bağlantılarını değiştiriyor; duyuruda çalışan bir müşteri sisteminin bağımsız deney sonucu sunulmuyor.[1], [2]

Denetleyiciler, bellek genişletmede kullanılan bağlantı teknolojisi Compute Express Link’i, kısaca CXL’i kullanıyor. Marvell’in hedefleri arasında büyük dil modeli çıkarımı ve derin öğrenmeye dayanan öneri modelleri var. Şirket, daha uzun bağlamlarda modelin çalışırken kullandığı anahtar değer önbelleğinin büyümesini bellek gereksiniminin nedenlerinden biri olarak açıklıyor. Öneri sistemlerindeki gömme tabloları da bellekte yer tutuyor. Yeni denetleyicilerin kullanım amacı, bu model ve öneri işlerinin bellek kapasitesi ile aktarım ihtiyacını karşılamak.[1]

Sunucular bellek kapasitesini denetleyici üzerinden paylaşıyor

Dört sunucuya kadar bağlantı, bellek kapasitesinin tek bir makineye ayrılması yerine sistemler arasında paylaşılmasını amaçlıyor. Mimari, artan kanal sayısıyla birlikte kapasite paylaşımını da içeriyor. Marvell, denetleyicileri çıkarım kümelerini genişleten işletmecilere yönelik konumlandırıyor. Şirketin tanımladığı sınırlamalar arasında bellek bant genişliği ve kullanılabilir kapasite bulunuyor. Sunucular arasında paylaşım özelliği, denetleyicinin bu altyapı içindeki bağlantı biçimini açıklıyor. Modelin gerektirdiği bellek ile onu kullanan hesaplama sistemleri bu bağlantılar üzerinden eşleştiriliyor.[1]

LZ4 sıkıştırması, bellek yolunda uygulanıyor. Verinin sıkıştırılması ve yeniden açılması, denetleyicinin çalışma düzeninin parçası. Marvell, veri koruması için şifreleme ve diğer güvenlik bileşenlerini de açıklıyor. StructGuard özellikleri hata düzeltmeyi ve dinamik rastgele erişimli bellek, yani DRAM arızalarına dayanıklılığı kapsıyor. Bu işlevler ikinci kuşak tasarımda kapasite ve bağlantı özellikleriyle birlikte yer alıyor. Şirketin mimari açıklaması bellek erişimini, verinin işlenmesini ve hata korumasını aynı denetleyici hattında topluyor.[1]

Örnek gönderimi 2027 başı için planlanıyor

Marvell, yeni kuşağın mevcut yazılım altyapısı ve ekosistem bağlantıları üzerine kurulduğunu belirtiyor. AMD, Arm, Alibaba, Meta, Samsung ve SK hynix işbirliği açıklamaları sunan şirketler arasında. Önceki Structera X denetleyicileri büyük bulut işletmelerine gönderiliyor. Yeni kuşağın örnek gönderimi ise 2027’nin ilk çeyreği için planlanıyor. Duyuru ve gösterim, bu örnek aşamasından önce tasarımı tanıtıyor. Mevcut ürünlerin sevkiyatı ile yeni kuşağın hazırlanması, ürün hattının farklı aşamalarını oluşturuyor.[1]

Kaynakça

  1. Haber kaynağıMarvellMarvell, çıkarım için altı kanallı CXL bellek genişleticilerini duyurdu↩1↩2↩3↩4↩5
  2. Haber kaynağıFinancial NewsStructera X ikinci kuşakta altı bellek kanalına geçiyor↩
YZ güvenliği ve regülasyonÇip savaşları ve tedarik zinciriSınır modeli yarışı

Aynı masadan diğer analizler

Yapay Zekâ masasındaki tüm Gündem analizlerini görüntüle →