Supersonic Labs, Julia 1 karar modelini yerel CPU'ya taşıdı
Supersonic Labs, uygulamanın sunduğu yanıtlar arasından seçim yapan açık Julia 1 modelini yayımladı. Model CPU'da çalışabildiği için sınıflandırma ve yönlendirme işlerini yerel aygıtta yürütmek isteyenler için yeni bir seçenek sunuyor. Geliştiricinin kendi sınamalarında, birbirine benzeyen çok sayıdaki bankacılık etiketi önce daraltıldığında doğru seçim oranı düşüyor.
Yapay Zekâ··Akşam
Julia 1 seçenekler arasında seçim yapıyor
Supersonic Labs, Julia 1 adlı açık karar modelini 26 Eylül'de duyurdu. Model, kullanıcıya kendi başına uzun bir yanıt yazmak yerine uygulamanın verdiği seçenekler arasından seçim yapıyor ve her seçeneğe ilişkin puan döndürüyor. MarkTechPost, 144,3 milyon parametreli modelin çok dilli mmBERT-small kodlayıcısına dayandığını ve 2 ile 20 yanıt seçeneği alabildiğini aktarıyor. Bu düzen, bir isteği sınıflandırma, sıraya koyma ya da belirli bir iş akışına yönlendirme gibi sınırları önceden tanımlı işler için tasarlandı. Supersonic Labs'ın 26 Eylül tarihli kendi duyurusu da Julia 1'i ilk sınıflandırma modeli olarak tanıtıyor ve farklı aygıtlarda çalışabildiğini söylüyor. Böylece duyurunun merkezinde yeni bir sohbet arayüzünden çok, seçenekleri uygulamanın belirlediği küçük bir karar bileşeni bulunuyor.[1], [2]
Açık ağırlıklar modeli yerel aygıta taşıyor
Ağırlıklar Apache 2.0 lisansıyla açıldı ve geliştirici Python çalışma yolunun CPU'da kullanılabildiğini gösteriyor. Bu, modelin her karar için uzak bir hizmete başvurmak zorunda kalmadan bir bilgisayarda çalıştırılabilmesi anlamına geliyor. MarkTechPost çevrim içi API'nin duyurulduğunu, ancak haber sırasında henüz kullanıma açılmadığını belirtiyor. Şirketin duyurusu farklı aygıtlarda çalışmayı vurguluyor, ancak her aygıt için ölçülmüş bir sonuç vermiyor. Geliştirici ayrıca tablet üstünde bir ONNX çalışma yolu sunuyor; bu aygıttaki başarım sayıları da kendi ölçümleri. Uygulamayı kuracak ekip için açık dosyaların varlığı, barındırılan API'nin açılmasını beklemekle aynı şey değil: yerel yolu şimdi deneyebilir, gelecekteki hizmeti ise henüz üretim gereği sayamaz.[1]
Geliştiricinin 25 Eylül'de yaptığı CPU sınamasında Julia 1, 2.000 yapılandırılmış kararın 1.451'ini doğru yanıtladı. Banking77 adlı, birbirine benzeyen 72 bankacılık etiketini içeren 100 örneklik denemede ise etiketler önce daraltıldıktan sonra 60 doğru yanıt verdi ve üç soruyu yanıtsız bıraktı. Supersonic Labs'ın kendi değerlendirmesine dayanan bu sayılar, bağımsız bir başarı ölçümü olarak sunulmuyor; Bunlar geliştiricinin yayımladığı sonuçlar olarak kalıyor. Özellikle uzun seçenek listelerini küçültme adımı, doğru etiketin daha sonraki seçim aşamasına hiç ulaşmaması riskini getiriyor. Modelin yerel aygıtta çalışması kesin bir özellik; belirli bir kurumun kendi etiketleri üzerinde ne kadar isabetli olacağı ise yayımlanan sınırlı denemeden çıkarılamıyor.[1]
