Step 5 Preview API'de açıldı, açık ağırlıklar 15 Ekim'e kaldı
StepFun, 600 milyar toplam ve belirteç başına 27 milyar etkin parametreli Step 5 Preview'ı API üzerinden kullanıma açtı. Şirket, yazılım geliştirme ve uzun süreli araç kullanımına dönük modelin açık ağırlıklarını 15 Ekim'de yayımlayacağını söylüyor; bugünkü teslim, yerel kurulum yerine şirketin sunduğu hizmetle sınırlı.
Yapay Zekâ··Öğle
600 milyarın 27 milyarı her belirteçte çalışıyor
Çinli yapay zekâ şirketi StepFun, yeni ana modeli Step 5 Preview'ı seyrek uzman karışımı mimarisiyle duyurdu. Modelde 600 milyar toplam parametre bulunuyor; her belirteç işlenirken bunların 27 milyarı etkinleşiyor. Bu iki sayı modelin bütün ağırlık kümesi ile tek işlem adımında kullanılan alt kümeyi anlatıyor. Şirket ayrıca 1 milyon belirteçlik bağlam penceresi ile metin ve görüntü girişini açıkladı. Bu yapı, belirteç başına bütün parametreleri çalıştırmak yerine yönlendiricinin seçtiği uzman alt kümelerini kullanıyor; duyuru hangi uzmanların hangi donanımlara yerleştirileceğini açıklamadı.[1], [2]
Model yazılım ve araç görevlerine yöneliyor
StepFun, Step 5 Preview'ı yapay zekâ ile kodlama, yazılım mühendisliği, mesleki bilgi işleri ve finans görevleri için konumlandırıyor. Duyuru, uzun bağlam içinde birden çok araç çağrısı yapan ve görevi birkaç adım boyunca sürdüren iş akışlarını öne çıkarıyor. API'nin açılması, geliştiricilerin modeli şirketin barındırdığı hizmet üzerinden kullanmasına olanak veriyor. Yayınlanan başarım karşılaştırmaları StepFun'ın kendi ölçümlerine dayanıyor. StepFun, kendi StepCodeBench ölçümünün 553 kod deposunu, 9 görev türünü ve 33 programlama dilini kapsadığını bildirdi. Şirket ayrıca Artificial Analysis Intelligence Index'te 44 puanla açık modeller arasında ilk üçe girdiğini ileri sürdü; bu sonuçlar bağımsız ölçüm değil.[1], [2]
Açık ağırlıklar 15 Ekim tarihini taşıyor
API 20 Eylül'de kullanıma açıldı; ağırlık dosyaları aynı gün yayımlanmadı. StepFun, açık ağırlıkların 15 Ekim'de geleceğini duyurdu. Böylece bugünkü ürün erişimi ile kullanıcıların modeli kendi donanımında kurabilmesi arasında açıklanmış bir bekleme süresi oluştu. Ağırlıkların hassasiyeti, sıkıştırma biçimi ve farklı aygıtlara yerleştirme seçenekleri duyurulmadığı için yerel kurulumun bellek gereksinimi de henüz belirlenmiş değil. Şirket, API için 1 milyon belirteçlik bağlam ve görüntü girişini şimdiden sunuyor. Yerel dağıtım seçenekleri ise ağırlık paketinin yayımlanmasına ve onun teknik ayrıntılarına bağlı kalıyor.[1], [2]
İlgili köşe yazıları
Bu gündem hakkında daha fazla bilgi için ilgili köşe yazılarını okuyabilirsiniz.
