Eigen RadarYapay Zekâ
Analiz

Fixstars, GLM-5.3 dil modelini Japonya’daki sunucularında çalıştırmaya başladı

Japonya merkezli Fixstars, GLM-5.3 dil modelini işlemleri ve depolamayı ülke içinde yürüten bulut hizmeti üzerinden sunmaya başladı. Böylece kodu ve şirket belgelerini yurt dışına gönderemeyen kurumlar modeli Japonya’daki altyapıda kullanabiliyor. Çinli Z.ai’nin yayımladığı model ağırlıklarını kendi sistemine uyarlayan Fixstars, her işlem tamamlandığında girdileri ve yanıtları sildiğini belirtiyor.

Yapay Zekâ··Akşam
Tokyo’daki bir bulut veri merkezi yerleşkesinde, açık servis kapılarından yüksek yoğunluklu depolama ve hesaplama birimleri görünen sismik yalıtımlı modüler veri merkezi kabinleri.

Bulut hizmeti işlemleri Japonya’da yürütüyor

Japon yazılım şirketi Fixstars, GLM-5.3 dil modelini yapay zekâ modellerini uzaktan çalıştıran Fixstars Inference Cloud hizmetine ekledi. İstekleri işleyen sunucular ve hizmetin depolama altyapısı Japonya’da bulunuyor. Müşteriler, OpenAI hizmetine bağlanmak üzere tasarlanmış uygulamalarla uyumlu bir arayüz üzerinden istek gönderebiliyor.[1], [2]

Fixstars yayımlanan ağırlıkları sıkıştırdı

Çinli Z.ai, dil modelinin eğitildikten sonra bilgiyi nasıl işleyeceğini belirleyen sayısal değerleri, yani model ağırlıklarını ağustosta yayımladı. Fixstars bu değerleri çip tasarımcısı Nvidia’nın dört bitlik biçimine dönüştürdü ve modeli kendi hizmetine uyarladı. Fixstars’a göre bu değişiklik, yazılım geliştirme gibi işlerde kullanılan modelin hesaplama ve bellek gereksinimini azaltıyor.[1]

Model önce doğrudan sözleşme yapanlara açıldı

Modelden ilk olarak Fixstars ile doğrudan sözleşme yapan müşteriler yararlanabiliyor. Şirket, sunucuların işletimini ve bakımını kendisinin üstlendiğini, kullanıma açtığı modelleri de bu altyapıya kendisinin uyarladığını belirtiyor. Hizmet, kaynak kodunu ve kurum içi belgeleri yurt dışına göndermesi kısıtlanan şirketleri de hedefliyor. Fixstars, gönderilen soruları ve üretilen yanıtları işlem bitince sildiğini ve model eğitiminde kullanmadığını belirtiyor. Şirket, modellere bağlanmaya yarayan FastMetal geçidi üzerinden de daha sonra erişim vermeyi planlıyor.[1]

Kaynakça

  1. Haber kaynağıFixstarsFixstars, GLM-5.3'ü Japonya'daki sunucularından sunmaya başladı↩1↩2↩3
  2. Haber kaynağıAI Watch (Impress)Fixstars, GLM-5.3 modelini Japonya’daki sunucularından sunmaya başladı↩