Eigen RadarYapay Zekâ
Arşiv
Analiz

Meta, Muse Spark’ın ağırlıklarını yerel kullanım için açtı

Meta, metin, görüntü, ses ve videoyu işleyip metin üreten Muse Spark Open modelinin ağırlıklarını yayımladı. Geliştiriciler modeli kendi donanımlarında çalıştırıp uyarlayabiliyor; kullanım Muse Model License koşullarına bağlı. Toplam 816 milyar parametreli yapının her adımda yalnızca bir bölümü çalışıyor. Buna karşılık bütün ağırlıkların bellekte tutulması gerekiyor. Şirketin Apple ile çalışması da masaüstünde kullanım üzerine yoğunlaşıyor.

Yapay Zekâ··Akşam
Açık renkli raftaki iki küçük alüminyum masaüstü bilgisayar, arka bağlantıları arasındaki bir kabloyla birbirine bağlı.

Meta, geliştiricilerin kendilerinin çalıştırabileceği modeli yayımladı

Meta, metin, görüntü, ses ve video girdilerini işleyerek metin üreten Muse Spark Open modelinin ağırlıklarını yayımladı. Dağıtım, makine öğrenmesi modellerinin paylaşıldığı Hugging Face platformu üzerinden yapılıyor. Geliştiriciler modeli indirip kendi altyapılarında çalıştırabiliyor. Meta’nın Apple ile yerel kullanım üzerine yürüttüğü çalışma da bu çıkışa eşlik ediyor. Ağırlıkların kullanımı, bazı ticari koşullar içeren Muse Model License ile düzenleniyor; birçok geliştirici için ücretsiz kullanım yolu bulunuyor.[1], [2]

Meta, modelin kullanım alanlarını kod deposu okuma, birden çok dosyayı değiştirme, hata ayıklama ve araçlarla uzun görevler yürütme olarak açıklıyor. Şirketin gösterimlerinde, kodlama hizmeti Muse Code ile yazılım değişiklikleri yapılıyor. Video düzenleme uygulaması DaVinci Resolve içindeki bir başka örnekte ise görüntüler kare kare incelenip uygun bölümler seçiliyor ve kesiliyor. Bunlar Meta’nın yeni modeli tanıtırken sunduğu uygulama örnekleri.[1], [2]

Etkin uzmanlar, tüm ağırlıkların bellekte tutulması gereğini kaldırmıyor

Modelin toplam yaklaşık 816 milyar parametresinden 42 milyarı, her girdi veya çıktı birimi olan belirteç için etkinleşiyor. Uzman karışımı mimarisinde her uzman katmanı, 256 uzman içinden sekizini seçiyor. Kullanılmayan uzmanlar da bellekte kalıyor. Hugging Face, daha yüksek sayısal duyarlılığa sahip BF16 ağırlıklarının boyutunu yaklaşık 1,5 TB olarak veriyor. Belleğe yüklenen modelin bütünü ile her hesapta çalışan bölümü bu nedenle farklı büyüklükler taşıyor.[1]

Bağlam düzeni, metin ve diğer girdilerin paylaştığı 1.048.576 konuma izin veriyor. Ses kodlayıcısı gelen sesi belirteçlere dönüştürüyor; görsel algı kodlayıcısı ise görüntüleri işliyor. Bu girdiler aynı bağlam alanına yerleşiyor. Teknik açıklamada, BF16 ile tam bağlamın yaklaşık 266 GB anahtar-değer önbelleği gerektirdiği hesaplanıyor. Bu önbellek, daha önce işlenen bağlamı bellekte tutuyor; model ağırlıklarına ayrılan alandan ayrı bir gereksinim oluşturuyor.[1]

Çıkışa çalıştırma ve uyarlama araçları eşlik ediyor

Modeli yükleyip çalıştırmak için Transformers, llama.cpp, SGLang, vLLM ve MLX desteği sunuluyor; bu araçların donanım ve girdi desteği farklılaşıyor. İnce ayar örneğinde uzmanların ağırlıkları sabit tutulup dikkat katmanlarına eklenen daha küçük uyarlayıcılar eğitiliyor. Hugging Face, 64 H100 grafik işlemci üzerinde 500 adımlık bir örnek anlatıyor. Meta ise Apple ile yaptığı çalışmada, MLX kullanarak modeli iki M5 Ultra Mac Studio bilgisayarda çalıştırabildiğini belirtiyor.[1], [2]

Kaynakça

  1. Haber kaynağıHugging FaceMeta, 816 milyar parametreli Muse Spark Open’ın ağırlıklarını yayımladı↩1↩2↩3↩4↩5
  2. Haber kaynağıEuropa PressMeta, Muse Spark Open’ın ağırlıklarını yayımladı; Apple ile yerel çalışmaya odaklandı↩1↩2↩3
YZ güvenliği ve regülasyonSınır modeli yarışı

Aynı masadan diğer analizler

Yapay Zekâ masasındaki tüm Gündem analizlerini görüntüle →