Liquid AI, aygıtta çalışan eylemciler için akıl yürütme modelini açtı
Liquid AI, son yanıtından önce akıl yürütme metni üreten ve çok adımlı görevlerde araç kullanan LFM2.5-24B-A2B modelinin ağırlıklarını yayımladı. Yeni sürüm, önceki modelin mimarisini korurken bağlamı ve sözcük dağarcığını genişletiyor. Geliştiriciler temel ve son eğitimden geçmiş sürümleri indirip yerel model sunucusunu OpenAI uyumlu bir arayüz üzerinden eylemci yazılımlarına bağlayabiliyor. Böylece model, uzaktaki bir hizmete istek göndermeden çalıştırılabiliyor.
Yapay Zekâ··Gece
İndirilebilir ağırlıklar yerel eylemcilere akıl yürütme sağlıyor
Model geliştiricisi Liquid AI, 13 Ekim’de aygıt üzerinde çalışan eylemciler için LFM2.5-24B-A2B’yi yayımladı. Temel model ile son eğitimden geçmiş sürümün ağırlıkları, model paylaşım platformu Hugging Face üzerinden indirilebiliyor. Geliştiriciler bu model parametrelerini kendi ortamlarında çalıştırabiliyor. Model, son yanıtı vermeden önce akıl yürütme metni üretiyor. Eğitimi, araç çağrılarını ve birden fazla konuşma turuna yayılan görevleri de kapsıyor.[1], [2]
Yeni sürüm, LFM2-24B-A2B’nin mimarisini koruyor. Uzman karışımı düzeni, metni işlemek için kullanılan her belirteçte modelin bir bölümünü seçiyor: toplam 24 milyar parametreden yaklaşık 2 milyarı etkinleşiyor. Mimari, kısa evrişim katmanlarını, girdinin ilgili bölümleri arasında bağlantı kuran dikkat mekanizmasıyla birleştiriyor. Liquid AI, bağlam uzunluğunu 32.000 belirteçten 131.000 belirtece çıkardı. Bağlam, modelin tek görevde işleyebildiği metin miktarını belirliyor.[1]
Uzun bağlama daha geniş eğitim eşlik ediyor
Belirteç sözlüğü de 65.000’den 128.000’e genişletildi. Şirket bu değişiklikle Latin dışındaki yazı sistemlerini daha iyi işlemeyi hedefliyor. Ön eğitimde kullanılan veri yaklaşık 17 trilyon belirteçten 33 trilyon belirtece yükseldi. Ara eğitimde akıl yürütme, matematik, kod, yönerge izleme ve çok dilli metinler ağırlık taşıyor. Uzun bağlamlar ve araçlarla yürütülen işlemler de bu aşamalara katıldı; eğitim, tek soruluk yanıtların ötesindeki görevleri içeriyor.[1]
Son eğitim, denetimli ince ayarı, uzman öğretici modelleri, damıtmayı ve eylemci görevlerinde pekiştirmeli öğrenmeyi bir araya getiriyor. Liquid AI, modelini araç kullanımı, bilgi, yönerge izleme, matematik ve kodu kapsayan 16 sınamayla değerlendirdi. Bu karşılaştırmalar şirketin kendi sonuçları. Şirketin değerlendirmesi, yoğun bilgi gerektiren görevlerde daha büyük modellerin üstün kaldığı alanları da içeriyor. Böylece yayımlanan ağırlıklarla birlikte eğitim yaklaşımı ve sınanan görev türleri de açıklanmış oldu.[1]
Yerel sunucular eylemci yazılımlarına bağlanıyor
Yerel çalıştırma desteği llama.cpp, MLX, vLLM, SGLang ve ONNX’i kapsıyor. Geliştiriciler yerel sunucuyu OpenAI uyumlu bir arayüz üzerinden açıp Hermes Agent, OpenClaw, Pi veya OpenCode gibi eylemci yazılımlarına bağlayabiliyor. Bu düzende model isteklerini uzaktaki bir hizmete göndermek gerekmiyor. Ayrı bağlanan dış araçların hangi veriyi nereye ilettiği ise bu araçların ayarlarına bağlı. Yayımlanan örnek, yerel model ile görevleri yürüten yazılım arasındaki bağlantıyı kuruyor.[1]
