Önce hangi sistem çalışıyor?
Gimlet Labs ile Cerebras’ın ortaklığı, tamamen kâğıt üzerindeki bir tasarımın ilanı değil. İki şirket geçen yıldan beri müşterilerle birlikte çalıştıklarını ve bütünleşik bir sistemin özel kurulumlarda belirteç ürettiğini söylüyor. Bu, donanımla yazılımın bir araya getirildiği dar bir kullanım alanı. Bir müşterinin özel ortamında yanıt üretmek, herkese açık bulut hizmetinin aynı yükü sürekli taşıdığı anlamına gelmiyor.[1]
Sıradaki fiziksel basamak, Cerebras donanımıyla çalışan ilk Gimlet Cloud veri merkezinin açılması. Şirketler bunu yıl bitmeden bekliyor. Duyuru, veri merkezinin işletime alındığını veya geliştiricilerin aynı hizmete genel erişim kazandığını söylemiyor. Kurulum, doğrulama ve üretim işletimi de ortaklığın ilerideki çalışma alanları arasında. Dolayısıyla bugünkü somut teslim, özel kullanımda çalışan bütünleşik sistem; yeni merkez ayrı bir takvim hedefi.[1]
Hızı hangi sınırda ölçeceğiz?
Mimari, Cerebras’ın Wafer Scale Engine sistemini GPU’larla birleştiriyor. Gimlet, çıkarımın farklı aşamalarını uygun yongalara dağıtacak yazılımdan söz ediyor. Bu düzen, tek bir donanımın bütün işi yapması yerine aşamalar arasında yönlendirme gerektiriyor. Buradaki mühendislik sınaması yalnızca bir yonganın hızlı belirteç üretmesi değil; aşamalar arası geçişte gecikmenin ve toplam kapasitenin nasıl değiştiği. İş yükü arttığında yönlendirme gideri veya veri aktarımı baskın hâle gelebilir; açıklama bunu ölçmüyor.[1]
Şirketlerin saniyede en fazla 3.000 belirteç hedefi, açılacak hizmet için ileri sürülüyor. Açıklamada bu değeri karşılaştırmaya yarayacak model, eşzamanlı istek yükü, gecikme sınırı ve güç tüketimi birlikte verilmiyor. Bu bilgiler olmadan sayı, veri merkezinin sürdürülen çıktısı veya başka bir hizmetten üstünlük kanıtı sayılamaz. Gimlet’in sonraki anlamlı açıklaması, merkezin açılışıyla birlikte bu ölçüm sınırlarını ve gerçek kullanımda ulaşılan hızı göstermesi olur. Böylece hedef, özel kurulumdaki ilk işaretten müşterilerin kullanabildiği bir hizmetin sınanabilir sonucuna geçer.[1]