Yapay zekâ konuşlandırması süre, görev gideri ve bellek katmanıyla ölçülüyor

Amap süreyi tüketici kartına taşıdığını söylüyor

Alibaba’nın harita birimi Amap, ABot-World-0 etkileşimli dünya modelinin tek tüketici sınıfı ekran kartında kesintisiz 24 saat çıkarım yaptığını duyurdu. Şirket, yaygın etkileşimli dünya modellerinin yaklaşık bir dakikada durduğunu söylüyor ve farkı LongForcing adını verdiği eğitim yöntemine bağlıyor. Ağırlıkların Hugging Face ile Reactor üzerinden açık tutulması, geliştiricilere modeli indirme olanağı veriyor. Bununla birlikte duyuruda kullanılan kartın modeli, sahnenin çözünürlüğü, kare hızı, bellek tüketimi veya 24 saat boyunca uygulanan etkileşimli iş yükü açıklanmadı. Süre ve bir dakikalık karşılaştırma Amap’in kendi ölçümleri; bağımsız bir tekrar sonucu yayımlanmış değil. Açık ağırlıklar bu işletim ayrıntılarının yerine geçmiyor: indirilebilir dosyayı gösterirken gün boyu çalışan ortamın teknik sınırlarını ayrı bırakıyor. Bu eksikler, iddianın hangi işletim koşullarında geçerli olduğunu sınamayı güçleştiriyor. Haber böylece uzun süreli etkileşimli çıkarımın tüketici donanımına yaklaşmasına ilişkin somut bir ürün iddiası getiriyor, fakat başka bir ekibin aynı koşulları kurması için gerekli yapılandırmayı henüz vermiyor.^[1]

DeepSeek fiyatı görev başına hesaplatıyor

Artificial Analysis, DeepSeek V4-Flash’ın başarım testlerini ortalama 3 sente tamamladığını tahmin ediyor. Aynı test kümesinde Claude Fable 5 için 3,15 dolar, GPT-5.6 Sol için 1,86 dolar ve Kimi K3 için 86 sent hesaplandı. Bu sıralama yalnızca arayüzde görülen birim ücrete dayanmıyor: ölçüm, modelin görevi bitirmek için işlediği girdi ve ürettiği çıktı belirteçlerini de hesaba katıyor. V4-Flash’ın liste fiyatı milyon girdi belirteci başına 0,14 dolar, milyon çıktı belirteci başına 0,28 dolar. Model 31 Temmuz’da yayımlandığı için rakamlar ilk günlerdeki bir araştırma şirketi tahminini yansıtıyor. Yaklaşım, ucuzluk başlığını bir görevin tamamlanması sırasında oluşan toplam belirteç hacmine bağlıyor ve liste fiyatından farklı bir sıralama çıkarıyor. Buradaki ölçü, Amap’in çalışma süresinden farklı olarak tamamlanan bir testin belirteç giderini karşılaştırıyor; donanım yatırımı veya belleğin sistemde nerede tutulduğu bu fiyatın doğrudan parçası değil.^[2]

Bellek katmanı ayrı bir donanım hesabı açıyor

FMS öncesindeki değerlendirme, hızlandırıcının pahalı yüksek bant genişlikli belleği ile soğuk depolama arasına daha hızlı kurumsal SSD’lerin yerleşmesini tartışıyor. Kioxia’nın CM10 serisi altıncı nesil PCIe arabirimi, hava soğutmanın yanında doğrudan soğuk plaka sıvı soğutma ve şirket ölçümüne göre 28,4 GB/s tepe sıralı okuma sunuyor. Fiyat ile genel çıkış tarihi açıklanmadı; sürücüler seçili müşterilere örnekleniyor. PCIe 6.0 şerit başına 64 GT/s düzeyine çıkarken ileri hata düzeltme her yönde yaklaşık 4-8 nanosaniye gecikme ekliyor. Değerlendirmedeki örneğe göre 70 milyar parametreli bir model, bir milyon belirteçlik bağlamda tek kullanıcı için yaklaşık 320 gigabayt anahtar-değer önbelleği üretiyor. Bu büyüklük bir H100’ün yüksek bant genişlikli bellek kapasitesinin dört katı olarak veriliyor. Üç haber birlikte, konuşlandırmanın tek bir model fiyatına indirgenmediğini gösteriyor: çalışma süresi, görevi tamamlamak için tüketilen belirteçler ve verinin bellek katmanları arasında taşınması farklı kaynak hesapları oluşturuyor.^{[3], [1], [2]}

Amap süreyi tüketici kartına taşıdığını söylüyor

DeepSeek fiyatı görev başına hesaplatıyor

Bellek katmanı ayrı bir donanım hesabı açıyor

Kaynakça

Aynı masadan diğer analizler