Eigen RadarYapay Zekâ
Analiz

Z.ai açık modellerin başına yayımlanmamış ağırlıklarla geçiyor, Liquid AI ise nicemleme kayıplarını geri alıyor

Son açık model başarımlarının başını ağırlıkları sınırlı tutulan bir sistem çekerken, uç cihazlar bir robot denetim modeli ile yüksek duyarlıklı başarımın neredeyse tümünü koruyan bir nicemleme yöntemi kazanıyor.

Yapay Zekâ··Gece
Kurgu görsel: güneşli bir atölyede masaüstü robot kolu ve yanındaki kart, arkada kapalı bir kasa.

Z.ai GLM-5.3

Çinli girişim Z.ai'nin yeni modeli GLM-5.3, Artificial Analysis Intelligence Index üzerinde 60 puan alarak açık model tablosunun tepesinde Kimi K3'ü yakalıyor ve daha düşük bir çalışma gideri sunuyor. Şirket modelin ağırlıklarının herkese açık yayımını yaklaşık iki hafta erteliyor ve erişimi seçilmiş güvenlik ortaklarıyla sınırlı tutuyor. Gecikme, modelin güvenlik açıklarını bulmadaki beklenmedik derecede güçlü yeteneğinden kaynaklanıyor; bu da açık sistemlerin aldığı yüksek başarım puanlarının giderek güvenlik kısıtlamalarıyla çatışacağını gösteriyor.[1]

Liquid AI

Liquid AI, uç cihazlara yönelik LFM2.5 modellerinin 2,6 milyar parametreye varan Q4_0 sürümlerini yayımladı. Bu modeller, yüksek duyarlıklı bir öğretmenden nicemlenmiş bir öğrenciye bilgi aktaran ve nicemlemeye duyarlı damıtma adı verilen bir süreçten geçiyor. Yöntemin, ağırlıkları 4 bitlik duyarlılığa sıkıştırırken olağan olarak yitirilen doğruluğun yaklaşık yüzde 97'sini altı değerlendirme üzerinde geri kazandırdığı belirtiliyor.[2]

NVIDIA Cosmos

NVIDIA, bir Jetson Thor modülünün kart üstü belleğine sığacak biçimde tasarlanmış 4 milyar parametreli Cosmos 3 Edge modeli için eğitim sonrası ayar yöntemlerini yayımladı. Sistem 2 milyar parametreli bir Nemotron akıl yürütücüsünü bütünleştiriyor ve kapalı çevrim değerlendirmede elleçleme görevlerinin yaklaşık yüzde 23'ünde başarı gösteriyor. Donanım kısıtlaması, modeli eylem öbeklerini verimli üretmeye zorlayarak öbek başına 1,53 saniyelik bir hıza ulaştırıyor.[3]

Kaynakça

  1. Haber kaynağıThe DecoderZ.ai'nin GLM-5.3'ü açık modellerin başına geçti, ağırlıklar ise bekliyor↩
  2. Haber kaynağıHugging FaceLiquid AI, 4 bitlik nicemlemenin aldığının yüzde 97'sini geri alıyor↩
  3. Haber kaynağıNVIDIA Technical BlogNVIDIA'nın 4 milyar parametreli robot modeli Jetson kartının üstünde çalışıyor↩