Aritmetik nereye işaret ediyor
Rakamları aynı paydaya getirelim. 70 milyar parametreli bir model, bir milyon belirteçlik bağlamda tek bir kullanıcı için yaklaşık 320 gigabayt anahtar-değer önbelleği üretiyor. Bu, bir NVIDIA H100'ün toplam yüksek bant genişlikli bellek kapasitesinin dört katı. Veri bir yere gitmek zorunda ve en yakın aday NVMe sürücü. PCIe 5 hızında tipik bir kurumsal sürücü yaklaşık 14 GB/s veriyor; altıncı nesilde standart dört şeritli bir sürücüde tavan 28 GB/s'ye çıkıyor.[1]
Kioxia'nın 30 Temmuz'da duyurduğu CM10 bu katmana oturuyor: 332 katmanlı BiCS FLASH onuncu nesil TLC bellek ve hava soğutmanın yanında doğrudan soğuk plaka sıvı soğutma. E3.S ve 9,5 milimetre E1.S biçimleri, ısının fanla değil soğuk plakayla alındığı yoğun hızlandırıcı raflarını hedefliyor. Hangi basamakta durduğunu da söylemek gerek: sürücüler seçili müşterilere örnekleniyor, fiyat ve çıkış tarihi açıklanmadı, ilk kamuya açık gösterim salı günü.[1]
Rakamların paydası
Başarım rakamları Kioxia'nın kendi ölçümü ve karşılaştırma kendi önceki nesline karşı yapılmış: CM9'a kıyasla sıralı okumada yaklaşık yüzde 92, rastgele okumada yaklaşık yüzde 85 artış; tepe sıralı okuma 28,4 GB/s, rastgele okuma 6,29 milyon IOPS. Arabirim nesli tek başına ayırt edici değil; Micron'un 9650'si şubat 2026'da, Samsung'un PM1763'ü 8 Temmuz'da seri üretime geçmişti. Üç satıcı da altıncı nesilde olduğuna göre fark, bellek yoğunluğu ve ısı yönetimi tarafında aranacak.[1]
Bant genişliğinin bir de bedeli var. Altıncı nesil, ikili işaretlemeden PAM-4 dört seviyeli kodlamaya geçerek şerit başına 64 GT/s'ye çıkıyor ve PCIe tarihinde ilk kez ileri hata düzeltme ekliyor; bu her yönde yaklaşık 4 ile 8 nanosaniye gecikme demek. Model ağırlığı yüklerken ya da eğitim verisi hazırlarken bu ihmal edilebilir. İlk belirtece kadar geçen sürenin ölçüldüğü çıkarım hatlarında ise ayrı hesaplanması gereken bir gider. Bu katmanın gerçekten işe yaradığını gösterecek olan, aynı iş yükünde yapılmış bağımsız bir ölçüm.[1]