NVIDIA, belge okuyan ve yerel çalışan Nemotron modellerini açtı
NVIDIA, görüntü ve metni birlikte işleyen Nemotron 3.5 Super VL ile yerel eylemci işleri için Bolt 74B-A9B’yi yayımladı. Super VL belge, tablo ve grafiklerden bilgi çıkarmaya yönelirken Bolt yerel donanımda çalışacak görevleri hedefliyor. Ağırlıklar ve uyarlama araçları erişime açık. Daha küçük Bolt E4B için 23 Ekim tarihi verildi; yayımlanan modellerin bağımsız değerlendirmesi de çıktı.
Yapay Zekâ··Gece
Super VL, görsel bilgiyi metinle birlikte işliyor
NVIDIA, Nemotron 3.5 Super VL ile Bolt 74B-A9B’yi 15 Ekim’de yayımladı. Her iki model görüntü ve metin alıp metin üretiyor. Super VL; belge, grafik, tablo ve internet sayfası üzerinde çalışan kurumsal eylemcilere yöneliyor. Bolt ise birden çok adımda tamamlanan eylemci işlerini yerel donanımda yürütmeyi hedefliyor.[1], [2]
Super VL toplam 120 milyar parametre içeriyor; karışım mimarisinde her adımda bunların bir bölümü etkinleşiyor. Modelin hedeflenen işleri arasında görseldeki yazıyı tanıma, belge çözümleme ve araç kullanımı var. Eylemci bir PDF belgesi, belgenin tabloları ve ilgili internet içeriği arasında ilerlerken görsel bilgi ile yazılı içerik aynı modelde işlenebiliyor.[1]
Bolt yerel çalıştırmaya yöneliyor
NVIDIA, Bolt’un ağırlıklarını daha düşük sayısal duyarlılıkla temsil eden doğal iki bit nicemlenmiş sürümünü yerel sistemleri için sunuyor. Model çalıştırma veya uyarlama yazılımları llama.cpp, Ollama, LM Studio, Unsloth ve vLLM desteklenen araçlar arasında. Super VL’ye ise Hugging Face ve ModelScope model depolarının yanı sıra NVIDIA NIM dağıtım hizmetinden erişilebiliyor. Kurumların kendi verileriyle uyarlama yapması da sunulan seçeneklerden.[1]
Ağırlıklar açıldı; küçük E4B daha sonra gelecek
Yayın, uyarlama için ağırlıkları, veri kümelerini ve eğitim tariflerini içeriyor. NVIDIA’nın NeMo araçları, Python tabanlı iş akışları ve NeMo Gym ortamları bu çalışmayı destekliyor. Fiziksel ortamlarda çalışan ve konuşmalı eylemciler için duyurulan daha küçük Bolt E4B’nin dağıtımı 23 Ekim’e planlandı. Super VL ile Bolt’un bugün açılması, küçük modelin de aynı gün erişilebilir olduğu anlamına gelmiyor.[1]
Bağımsız model değerlendirme kuruluşu Artificial Analysis, yayımlanan modellere ilişkin kendi değerlendirmesini sundu. Sonuçlar belirli bir değerlendirme dizinindeki başarımı anlatıyor. NVIDIA’nın hız ve uzman görev karşılaştırmaları üreticinin açıklamaları olarak kalıyor. Ağırlıklar ve eğitim malzemeleri ise kurumlara modelleri kendi işlerine uyarlayabilecekleri somut bir çalışma yolu sağlıyor.[1]
