Z.ai açık modellerin başına yayımlanmamış ağırlıklarla geçiyor, Liquid AI ise nicemleme kayıplarını geri alıyor
Son açık model başarımlarının başını ağırlıkları sınırlı tutulan bir sistem çekerken, uç cihazlar bir robot denetim modeli ile yüksek duyarlıklı başarımın neredeyse tümünü koruyan bir nicemleme yöntemi kazanıyor.
Yapay Zekâ··Gece
Z.ai GLM-5.3
Çinli girişim Z.ai'nin yeni modeli GLM-5.3, Artificial Analysis Intelligence Index üzerinde 60 puan alarak açık model tablosunun tepesinde Kimi K3'ü yakalıyor ve daha düşük bir çalışma gideri sunuyor. Şirket modelin ağırlıklarının herkese açık yayımını yaklaşık iki hafta erteliyor ve erişimi seçilmiş güvenlik ortaklarıyla sınırlı tutuyor. Gecikme, modelin güvenlik açıklarını bulmadaki beklenmedik derecede güçlü yeteneğinden kaynaklanıyor; bu da açık sistemlerin aldığı yüksek başarım puanlarının giderek güvenlik kısıtlamalarıyla çatışacağını gösteriyor.[1]
Liquid AI
Liquid AI, uç cihazlara yönelik LFM2.5 modellerinin 2,6 milyar parametreye varan Q4_0 sürümlerini yayımladı. Bu modeller, yüksek duyarlıklı bir öğretmenden nicemlenmiş bir öğrenciye bilgi aktaran ve nicemlemeye duyarlı damıtma adı verilen bir süreçten geçiyor. Yöntemin, ağırlıkları 4 bitlik duyarlılığa sıkıştırırken olağan olarak yitirilen doğruluğun yaklaşık yüzde 97'sini altı değerlendirme üzerinde geri kazandırdığı belirtiliyor.[2]
NVIDIA Cosmos
NVIDIA, bir Jetson Thor modülünün kart üstü belleğine sığacak biçimde tasarlanmış 4 milyar parametreli Cosmos 3 Edge modeli için eğitim sonrası ayar yöntemlerini yayımladı. Sistem 2 milyar parametreli bir Nemotron akıl yürütücüsünü bütünleştiriyor ve kapalı çevrim değerlendirmede elleçleme görevlerinin yaklaşık yüzde 23'ünde başarı gösteriyor. Donanım kısıtlaması, modeli eylem öbeklerini verimli üretmeye zorlayarak öbek başına 1,53 saniyelik bir hıza ulaştırıyor.[3]