Reflection’ın kodlama modeli Beam, Apache 2.0 lisansıyla Hugging Face’te yayımlandı. Ağırlıklara modeli çalıştırma, gözetimli ek eğitim ve pekiştirmeli öğrenme örnekleri eşlik ediyor. Beam, metin girdisinden yine metin üretirken toplam 501 milyar parametresinin yaklaşık 23 milyarını her belirteçte etkinleştiriyor. Kullanılmayan uzmanların ağırlıkları da bellekte kalıyor. Geliştiricilere sunulan paket, hazır modeli kullanmanın yanında kendi görevlerine uyarlamanın yollarını da içeriyor.
Yapay Zekâ··Akşam
Beam’in kodlama ağırlıkları indirilebilir oldu
Yapay zekâ geliştiricisi Reflection, Beam’in ağırlıklarını model paylaşım platformu Hugging Face üzerinden Apache 2.0 lisansıyla yayımladı. Beam, metin alıp metin üretiyor; kodlamaya ve araç kullanan eylemcilere odaklanıyor. Hugging Face, Reflection ile birlikte modeli çalıştırmak ve ek eğitimle uyarlamak için örnekler hazırladı. Bu örnekler, gözetimli eğitimin yanı sıra geri bildirimle davranışın değiştirildiği pekiştirmeli öğrenmeyi kapsıyor.[1], [2]
Uzman ağı, etkin olmayan ağırlıkları da bellekte tutuyor
Beam, her metin birimi olan belirteçte toplam 501 milyar parametresinin yaklaşık 23 milyarını etkinleştiriyor. İlk 3 yoğun katmanın ardından 49 katman uzman karışımı yapısını kullanıyor. Her uzman katmanı, 256 uzman içinden 8 tanesini seçiyor. Bütün uzmanların ağırlıkları bellekte tutuluyor. Dikkat katmanlarının çoğu önceki metne kayan bir pencereden bakarken, 9 katman bağlamın tamamını görebiliyor.[1]
Geliştiricilere çalıştırma ve eğitim yolları sunuluyor
Başlangıçta Transformers, SGLang ve vLLM gibi model yükleme ve çalıştırma yazılımları destekleniyor. Beam’e, Rust dilinde yazılmış ayrı bir çalıştırma ortamı da eşlik ediyor. Uyarlama için TRL ile gözetimli eğitim, Miles ile pekiştirmeli öğrenme ve daha küçük LoRA uyarlayıcıları sunuluyor. Modelde, akıl yürütmeyi konuşmanın bağlamında saklayan bir seçenek ve araç çağrılarına ayrılmış özel bir dilbilgisi bulunuyor.[1]
