SenseNova, katmanları yeniden kullanan Loop-9B’yi yayımladı
Çinli SenseNova, ekim ayındaki önizlemenin ardından Loop-9B modelinin resmi sürümünü 17 Kasım’da yayımladı. Metin ve görüntü alıp metin üreten model, hesaplamayı uzatmak için ortak katmanları yeniden kullanıyor. Sürümle birlikte yeni ağırlıklar ve kod sunuluyor. Kamuya açık model sayfasında lisans, indirme koşulları ile karmaşık yönergelerde, kodlamada ve uzun eylemci görevlerinde görülen sınırlamalar açıklanıyor.
Yapay Zekâ··Sabah
Önizlemenin ardından resmi ağırlıklar
Çinli yapay zekâ şirketi SenseTime’ın model projesi SenseNova, Loop-9B’nin resmi ağırlıklarını ve kodunu 17 Kasım’da yayımladı. Aynı döngülü yapıyı kullanan önizleme 31 Ekim’de çıkmıştı. Yeni sürüm bu yapıyı korurken kodlama, veri çözümleme ve eylemci görevlerine yönelik yeni ağırlıklar sunuyor. Model, metnin yanında görüntü de alıyor ve yanıtını metin olarak üretiyor.[1], [2]
Aynı katmanlar iki kez çalışıyor
Loop-9B, eğitim sırasında öğrenilen değerler olan yaklaşık 9 milyar ayrı parametre saklıyor. Modelin 32 farklı kod çözücü katmanından ortadaki 24 katman iki kez çalışıyor. Böylece tek ileri geçişte 56 katman hesaplaması yapılıyor. İki geçiş de aynı ağırlıkları kullanıyor; ilk geçişin oluşturduğu durum ikinci geçişte işleniyor. Paralel iki bilgi akışı, öğrenilen eşlemelerle birbirine bağlanıyor. Hem önizleme hem resmi sürüm varsayılan olarak iki döngü kullanıyor.[1]
İndirme koşulları ve görev sınırları
Proje Apache 2.0 lisansı taşıyor. Model paylaşım hizmeti Hugging Face’teki sayfa kamuya açık; dosyaları indirmek için oturum açmak ve bilgi paylaşımına ilişkin koşulları kabul etmek gerekiyor. Model kartında, çok sayıda araç tanımı ya da koşul içeren yönergelerin yanlış anlaşılabildiği, uzun kodlama ve eylemci görevlerinde sonuçların tutarsız olabildiği belirtiliyor. Karmaşık web üretimi, ek geri bildirim ve düzeltme turları gerektirebiliyor. Sayfada model için barındırılmış çıkarım sağlayıcısı listelenmiyor.[1]