Eigen RadarYapay Zekâ
Analiz

Tencent, Hy4 flash ağırlıklarını yerel kullanım için yayımladı

Tencent, Hy4 flash ailesinin ağırlıklarını indirmeye açarak geliştiricilerin metin ve görüntü alan modeli kendi ortamlarında çalıştırmasına olanak verdi. Tencent Hy License kapsamındaki sürümler, talimat eğitimi almış modelleri ve ön eğitimli temel modeli kapsıyor. Mimari, uzman katmanlarıyla karma dikkati birleştiriyor. Dağıtım belgelerinde çalıştırma araçları ve ince ayar yönergeleri bulunuyor. İndirme olanağı, mevcut çevrim içi hizmetten ayrı bir erişim yolu sunuyor.

Yapay Zekâ··Öğle
Gün ışığı alan küçük bir geliştirici odasında, masanın yanında yerde duran, yan camından ekran kartları görünen bir iş istasyonu; Hy4 flash ağırlıklarının yerel kurulumunu simgeliyor.

Ağırlıklar geliştiricinin kendi ortamında çalışabiliyor

Hy4 flash modelini geliştiren teknoloji şirketi Tencent, model ailesinin ağırlıklarını indirmeye açtı. Ağırlıklar, eğitilmiş bir modelin çalışması için gereken öğrenilmiş değerleri içeriyor. Geliştiriciler artık bu dosyaları alıp modeli Tencent Hy License kapsamında kendi ortamlarında çalıştırabiliyor. İndirme olanağı, daha önce sunulan çevrim içi hizmetin yanında ayrı bir kullanım yolu sağlıyor. Tencent’in model sayfası, dosyaları edinmek isteyen geliştiricileri Hugging Face gibi model depolarına yönlendiriyor.[1], [2]

Metin ve görüntüden metin yanıtı üretiyor

Hy4 flash, metin ve görüntü girdilerinden metin yanıtı üretiyor. Girdiyi işlemek için kullanılan birimler olan belirteçlerden yaklaşık bir milyonunu kapsayan bağlam penceresi sunuyor. Tencent’in açıkladığı mimari; uzman karışımı katmanlarını, karma dikkati ve sözcük dizileri için öğrenilmiş gösterimleri birleştiriyor. Yerleşik taslak model, olası çıktıyı önceden hazırlayan kestirimli çözümleme sırasında ana modelin önbelleğini ve seçilmiş konumlarını paylaşıyor.[1]

Sohbet eğitimi ile dağıtım ayrı seçenekler sunuyor

Talimat eğitimi almış sürümlerde yoğun akıl yürütme ve doğrudan yanıt seçenekleri bulunuyor. Ön eğitimli Hy4 flash Base ise sohbet için talimat eğitimi almamış durumda. Dağıtım yönergeleri, dil modellerini hizmete sunan vLLM ve SGLang araçlarının yanında nicemleme ile ince ayarı kapsıyor. Model yazılım kitaplığı Transformers desteğinin ana dala katılması henüz bekleniyor. Tencent, bu çalışma tamamlanana kadar geliştiricileri belirtilen özel sürüme yönlendiriyor.[1]

Kaynakça

  1. Haber kaynağıTencent on Hugging FaceTencent, Hy4 flash model ağırlıklarını indirmeye açtı↩1↩2↩3
  2. Haber kaynağıIT之家Tencent, Hy4 flash model ağırlıklarını indirmeye açtı↩