Gimlet, çıkarım bulutu için Cerebras sistemleri alacak
Gimlet Labs, yapay zekâ modellerini çalıştırdığı buluta Cerebras sistemleri eklemek için ortaklık duyurdu. Bütünleşik sistem özel kurulumlarda kullanılıyor; ilk Cerebras destekli Gimlet veri merkezi ise yıl sonuna planlanıyor. Gimlet, daha yeni CS-4 sistemlerine müşterilerin 2027'de erişmesini bekliyor. Şirketlerin duyurduğu hız ve kapasite hedefleri, yaygın hizmette bağımsız olarak doğrulanmış sonuçlar değil. Anlaşma, çıkarım işlemlerinde farklı işlemcileri birlikte kullanma planına dayanıyor.
Yapay Zekâ··Akşam
Gimlet ve Cerebras çıkarım bulutunda ortak oldu
Gimlet Labs, 28 Eylül'de Cerebras işlemcilerini yapay zekâ modellerini çalıştırdığı Gimlet Cloud'a katmak için ortaklık duyurdu. Superpower Daily de iş birliğini ve ilk Cerebras destekli veri merkezinin yıl sonuna doğru açılması hedefini aktardı. Çıkarım, eğitilmiş modelin bir isteğe yanıt üretmesi aşamasıdır; eylemcilerin art arda yaptığı çağrılarda gecikme birikir. Şirketler bu gecikmeyi azaltmayı amaçlıyor. Yıl sonu takvimi planlanan kurulum içindir; geniş müşteri kitlesine sunulmuş bir veri merkezi sonucu olarak aktarılmamalı.[1], [2]
Modelin aşamaları farklı çiplere ayrılıyor
Gimlet, bir modelin isteği hazırladığı aşama ile yanıtı belirteç belirteç ürettiği aşamayı farklı işlemcilere dağıtmayı planlıyor. Cerebras'ın geniş bellekli Wafer Scale Engine sistemi özellikle belirteç üretiminde kullanılacak; grafik işlemcileri başka aşamaları üstlenecek. Şirket, geliştiricinin bu ayrımı yönetmek zorunda kalmaması için tek uygulama arayüzü sunmayı öngörüyor. Ortaklar zorlu eylemci ve gerçek zamanlı kullanımda saniyede 3.000 belirtece kadar hız hedefliyor. Bu sayı, tüm müşterilerin eriştiği hizmette bağımsız olarak doğrulanmış hız değil.[1]
Özel kurulumdan yeni veri merkezine
Gimlet, iki şirketin geçen yıl ortak müşterilerle çalışmaya başladığını ve bütünleşik düzeneğin özel kurulumlarda belirteç ürettiğini söylüyor. Bu erken kullanım, yıl sonuna planlanan ilk Cerebras destekli Gimlet veri merkeziyle aynı yaygınlık düzeyi değil. Gimlet, Cerebras'ın yeni CS-4 sistemine ilk ortaklardan biri olarak katılacağını ve müşterilerin bu teknolojiye 2027'de erişmesini bekliyor. Duyurulan kapasite ve hız hedefleri kurulum tamamlandıkça sınanabilecek. Şirketler bugünkü anlaşmayla donanım ve bulut yazılımını aynı hizmette buluşturma yönünde somut bir adım attı.[1]
