llama.cpp ile ona eşlik eden ggml tensör kütüphanesi, açık uyumluluk kurallarıyla 1.0.0 sürümüne geçti. Genel arayüzü bozan değişiklikler ana sürüm numarasını artıracak; geriye uyumlu eklemeler ile düzeltmeler daha küçük artışlarla gösterilecek. Böylece bu yerel model çalıştırma kütüphanelerini kullanan uygulamalar, sonraki güncellemelerin etkisini belirgin bir sürüm kuralıyla izleyebilecek.
Yapay Zekâ··Gece
Uyumsuz değişiklik ana sürümü artıracak
Dil modellerini C ve C++ üzerinden çalıştırmayı sağlayan llama.cpp ile tensör işlemlerini yürüten ggml kütüphanesi, 1.0.0 sürümüne geçti. Yeni politika, başka uygulamaların kullandığı genel arayüzlerin uyumluluğunu sürüm numaralarına bağlıyor. Kaynak kodunu ya da derlenmiş yazılımların kullandığı ikili arayüzü bozan değişikliklerde ana sürüm numarası artacak. Model çalıştırma işi libllama, makine öğrenmesindeki tensör işlemleri ise libggml üzerinden sunuluyor. Bu kurallar kütüphaneleri kendi yazılımına bağlayan geliştiricileri ilgilendiriyor.[1], [2]
Geriye uyumlu eklemeler alt sürümle gelecek
Kuralların kapsadığı genel arayüzleri, iki projenin include dizinindeki C başlık dosyaları tanımlıyor. Geriye uyumlu özellikler, arka uç güncellemeleri, yeni model desteği ve arayüz eklemeleri alt sürüm numarasını artıracak. Arayüzü değiştirmeyen hata düzeltmeleri ise yama numarasına yansıyacak. Böylece farklı türdeki güncellemeler ayrı işaretler taşıyacak. Başka uygulamaların bu kütüphanelere bağımlılığının arttığı üç buçuk yıllık geliştirme döneminin ardından gelen politika, anlamsal sürümleme kullanan ggml-org projelerini kapsıyor.[1]
Arka uçlar ayrı kütüphaneler olarak yüklenebiliyor
Kütüphanelerin geliştirme altyapısı farklı donanım platformlarını kapsıyor. Her ggml arka ucu ayrı bir dinamik kütüphane olarak derlenebiliyor ve uygulama çalışırken yüklenebiliyor. Hugging Face'in Buckets ve Jobs hizmetleri sürekli bütünleştirme kapasitesini genişletmek için kullanılıyor; donanım katkıları da ek sınama makinelerini destekliyor. Dağıtımda paket yöneticileri, Docker ve Apple platformlarına yönelik XCFramework paketleri yer alıyor. Kanalların işletim sistemi kapsamı değişiyor. Ekip, paketleme ve sürüm hazırlama süreçlerine katılmak isteyen geliştiriciler için bir tartışma bağlantısı da paylaşıyor.[1]