Fixstars, GLM-5.3 dil modelini Japonya’daki sunucularında çalıştırmaya başladı
Japonya merkezli Fixstars, GLM-5.3 dil modelini işlemleri ve depolamayı ülke içinde yürüten bulut hizmeti üzerinden sunmaya başladı. Böylece kodu ve şirket belgelerini yurt dışına gönderemeyen kurumlar modeli Japonya’daki altyapıda kullanabiliyor. Çinli Z.ai’nin yayımladığı model ağırlıklarını kendi sistemine uyarlayan Fixstars, her işlem tamamlandığında girdileri ve yanıtları sildiğini belirtiyor.
Yapay Zekâ··Akşam
Bulut hizmeti işlemleri Japonya’da yürütüyor
Japon yazılım şirketi Fixstars, GLM-5.3 dil modelini yapay zekâ modellerini uzaktan çalıştıran Fixstars Inference Cloud hizmetine ekledi. İstekleri işleyen sunucular ve hizmetin depolama altyapısı Japonya’da bulunuyor. Müşteriler, OpenAI hizmetine bağlanmak üzere tasarlanmış uygulamalarla uyumlu bir arayüz üzerinden istek gönderebiliyor.[1], [2]
Fixstars yayımlanan ağırlıkları sıkıştırdı
Çinli Z.ai, dil modelinin eğitildikten sonra bilgiyi nasıl işleyeceğini belirleyen sayısal değerleri, yani model ağırlıklarını ağustosta yayımladı. Fixstars bu değerleri çip tasarımcısı Nvidia’nın dört bitlik biçimine dönüştürdü ve modeli kendi hizmetine uyarladı. Fixstars’a göre bu değişiklik, yazılım geliştirme gibi işlerde kullanılan modelin hesaplama ve bellek gereksinimini azaltıyor.[1]
Model önce doğrudan sözleşme yapanlara açıldı
Modelden ilk olarak Fixstars ile doğrudan sözleşme yapan müşteriler yararlanabiliyor. Şirket, sunucuların işletimini ve bakımını kendisinin üstlendiğini, kullanıma açtığı modelleri de bu altyapıya kendisinin uyarladığını belirtiyor. Hizmet, kaynak kodunu ve kurum içi belgeleri yurt dışına göndermesi kısıtlanan şirketleri de hedefliyor. Fixstars, gönderilen soruları ve üretilen yanıtları işlem bitince sildiğini ve model eğitiminde kullanmadığını belirtiyor. Şirket, modellere bağlanmaya yarayan FastMetal geçidi üzerinden de daha sonra erişim vermeyi planlıyor.[1]