Sunucular ortak bellek havuzuna erişebilecek
Yarı iletken geliştiricisi Marvell ile bilgisayar sistemleri uzmanı Penguin Solutions, 16 Kasım’da bellek geliştirme ortaklığı duyurdu. Plan, sunucu belleğini doğrudan genişletmeyi ve sonraki aşamada birden çok raf arasında optik bağlantıyla kapasite paylaşmayı birleştiriyor. Ortaklığın hedefinde, eğitilmiş bir yapay zekâ modelinin isteği işleyip yanıt ürettiği çıkarım aşamasında kullanılan bellek bulunuyor.[1], [2]
Şirketlere göre büyüyen modeller, uzayan girdiler ve genişleyen anahtar-değer önbellekleri bellek gereksinimini artırıyor. Bu önbellekler, modelin işlem durumuyla ilgili bilgileri saklıyor. Bu genişletme yolu, bellek kapasitesinin artışını hesaplama kapasitesinden ayırmayı amaçlıyor. Böylece işletmeciler her iki kaynağı birlikte büyütmek yerine ayrıca bellek ekleyebilecek.[1]
