Eigen RadarYapay Zekâ
Analiz

Marvell ve Penguin, yapay zekâ sunucuları arasında bellek paylaşımı planlıyor

Marvell ile Penguin Solutions, yapay zekâ modellerinin yanıt üretirken kullanacağı belleği genişletmek için işbirliği duyurdu. Plan, kullanımdan çıkarılan sunucuların belleğini yeniden değerlendirmeyi ve ilerleyen aşamada raflar arasında optik bağlantıyla ortak kapasite sağlamayı içeriyor. İlk genişletme kartlarının yıl sonuna kadar hazır olması bekleniyor. Optik bağlantılı sistem örnekleri için gelecek yılın ikinci yarısı hedefleniyor.

Yapay Zekâ··Akşam
Güneş ışığı alan bir donanım laboratuvarındaki akçaağaç çalışma masasında, geri kazanılmış DDR4 bellek modüllerinin yanında dik duran bakır soğutuculu CXL bellek genişletme kartlarının alt açıdan geniş görünümü.

Sunucular ortak bellek havuzuna erişebilecek

Yarı iletken geliştiricisi Marvell ile bilgisayar sistemleri uzmanı Penguin Solutions, 16 Kasım’da bellek geliştirme ortaklığı duyurdu. Plan, sunucu belleğini doğrudan genişletmeyi ve sonraki aşamada birden çok raf arasında optik bağlantıyla kapasite paylaşmayı birleştiriyor. Ortaklığın hedefinde, eğitilmiş bir yapay zekâ modelinin isteği işleyip yanıt ürettiği çıkarım aşamasında kullanılan bellek bulunuyor.[1], [2]

Şirketlere göre büyüyen modeller, uzayan girdiler ve genişleyen anahtar-değer önbellekleri bellek gereksinimini artırıyor. Bu önbellekler, modelin işlem durumuyla ilgili bilgileri saklıyor. Bu genişletme yolu, bellek kapasitesinin artışını hesaplama kapasitesinden ayırmayı amaçlıyor. Böylece işletmeciler her iki kaynağı birlikte büyütmek yerine ayrıca bellek ekleyebilecek.[1]

İlk aşamada eski sunucuların belleği değerlendirilecek

İlk aşamada Marvell’in Structera X bellek genişletme denetleyicileri, Penguin’in SMART CXL eklenti kartlarına katılacak. CXL, işlem aygıtlarıyla belleği birleştiren bağlantı teknolojisidir. Ortaklar, kullanımdan çıkarılan sunuculardaki yüksek yoğunluklu DDR4 bellek birimlerini yeniden değerlendirmeyi planlıyor. Kartlar, birden fazla sunucuya ortak havuzdan kapasite ayıran bağımsız bellek aygıtlarının kurulmasında da kullanılabilecek. Kurumsal uygunluk sınamaları ve konuşlandırma için yıl sonu hedefleniyor.[1]

Optik sistem örnekleri gelecek yılın ikinci yarısında bekleniyor

İkinci aşamada Marvell’in Photonic Fabric optik bağlantılarının, Penguin’in MemoryAI bellek aygıtlarına ve ComputeAI sistemlerine katılması öngörülüyor. Böylece bellek havuzları raflar arasına yayılacak. Ortak geliştirilen sunucu örneklerinin gelecek yılın ikinci yarısında sunulması bekleniyor. Yole Group araştırma kuruluşunun bellek çözümleyicisi Jihoon Han, yeni bellek üretim kapasitesinin zaman ve büyük yatırım gerektirdiğini belirtiyor. Yüksek bellek fiyatlarının da yapay zekâ altyapısını genişletmenin giderini artırdığını söylüyor.[1]

Kaynakça

  1. Haber kaynağıMarvellMarvell ve Penguin, yapay zekâ için CXL ve optik bellek planını açıkladı↩1↩2↩3↩4
  2. Haber kaynağıThe RegisterMarvell ve Penguin Solutions, optik bellek ağıyla bellek sıkıntısını gidermeyi hedefliyor↩