Ağırlıkların yanına eğitim araçları geldi

Xiaomi bu kez yalnızca iki model dosyası yayımlamadı. MiMo-V2.6 Pro ve Flash ağırlıklarına teknik raporu, 7.000'den fazla pekiştirmeli öğrenme görev ortamını, uçtan uca eğitim çerçevesini ve sistem yönergesi, araçlar ile bağlam yönetimini ayıran küçük çalışma düzeneklerini ekledi. Bir geliştirici böylece şirketin sonuç tablosunu okumakla yetinmeden eğitim döngüsünün hangi parçalarını değiştirebileceğini görebiliyor. Yine de duyurudaki başarım ve eğitim gideri sayıları Xiaomi'nin kendi ölçümleri; açılan kod bu sonuçları kendiliğinden bağımsız doğrulamaya çevirmiyor.[1]

Model kartındaki ayrıntılar özgürlüğün çalışma koşulunu da gösteriyor. MiMo-V2.6-Pro MIT lisansıyla sunuluyor; 524 milyar toplam değişkenin 42 milyarı her adımda etkinleşiyor ve bağlam uzunluğu 1 milyon belirtece ulaşıyor. SGLang tarifi iki düğüm ve çoklu GPU ayarları içerirken vLLM tarifi sekiz yönlü paralellik öneriyor. Lisans, ağırlığı inceleme ve başka bir hizmette çalıştırma hakkını açık hale getiriyor. O hakkı kullanmanın donanım, bellek ve işletim emeği ise ekipten ekibe değişecek.[1]

Çıkış yolu donanım hesabıyla başlıyor

Bu paket model katmanındaki değiştirme giderini iki ayrı yönden düşürüyor. Ağırlıklar sağlayıcıdan çıkmayı hukuken ve teknik olarak mümkün kılıyor; küçük çalışma düzenekleri de sistem yönergesi, araç seçimi ve bağlam yönetimini modelden ayırıyor. Buna karşılık Pro sürümünü yerelde işletmek, çoğu küçük ekip için yeni bir altyapı darboğazı yaratabilir. Flash sürümü, nicemlenmiş türevler veya barındırılan API bu yükü hafifletebilir. Bu nedenle açık ağırlık etiketi tek başına taşınabilirlik sonucu vermiyor; asıl ölçü, sağlayıcı değişimindeki toplam iş akışı gideridir.[1]

En açıklayıcı deney, sabit bir yazılım görev kümesinde önce modeli, sonra çalışma düzeneğini değiştirmek olur. Her koşuda kabul edilen çıktı, insanın gözden geçirme süresi, gecikme, başarısız yeniden deneme ve işlem gideri birlikte ölçülmeli. Kazanç yalnız model değişince korunursa ağırlıklar ana taşınabilir bileşendir; yalnız düzenek korununca sürerse değer araç zincirinde toplanıyordur. İki değişimde de kaybolursa Xiaomi'nin başarım tablosu kendi kurulumuna bağlı kalır. Geliştirici için sürümün vaadi, bu ayrımı dışarıdan kurulabilir bir deneye dönüştürmesidir.[1]