Verimlilik katmanları büyürken enerji talebi de genişliyor
Model, depolama ve işlemci verimliliğine dönük yeni ürünler, veri merkezlerinin hızlanan elektrik talebiyle aynı anda ortaya çıkıyor.
Yapay Zekâ··Sabah
Talebin ölçeği
TechCrunch'ın aktardığı BloombergNEF tahmini, veri merkezlerinin 2035'e kadar ABD elektriğinin beşte birini tüketebileceğini ve önümüzdeki on yılda yaklaşık 200 gigavatlık ek kapasitenin devreye girebileceğini öngörüyor. Bu kapasitenin neredeyse yarısının YZ eğitimi ile çıkarımına ayrılması bekleniyor. Aynı tahmine göre ABD, 2033'te güç talebi ölçütüyle dünyadaki YZ çiplerinin yüzde 64'üne ev sahipliği yapabilir; küresel yeni elektrik talebi de o yıl 1.935 teravat-saate ulaşabilir.[1]
Bölgesel göstergeler, büyümenin yalnızca ulusal bir toplam olmadığını gösteriyor. Raporda PJM Interconnection şebekesindeki elektriğin yüzde 34'ünün, Teksas'taki ERCOT şebekesinin üretim kapasitesinin ise yüzde 22'sinin veri merkezlerine ayrıldığı belirtiliyor. BloombergNEF'in yeni kapasite tahmini, kurumun aralık ayındaki öngörüsünden yüzde 83 daha yüksek. Bu rakamlar bir verimlilik ölçümü sunmuyor; ancak altyapıdaki her iyileştirmenin, hızla yukarı çekilen bir talep tabanı üzerinde değerlendirildiğini ortaya koyuyor.[1]
Model ve depolama katmanındaki tasarruf iddiaları
Google, Gemini 3.6 Flash'ın önceki nesle göre belirteç kullanımını yüzde 17'ye kadar azalttığını söylüyor; ürünü özellikle büyük ölçekte YZ ajanı geliştirenler için verimlilik, gecikme ve güvenilirlik ekseninde konumlandırıyor. Şirket ayrıca daha ucuz Flash-Lite katmanını ve hükümetlerle güvenilir ortaklara sınırlı bir güvenlik modeli olan Flash Cyber'ı duyurdu. Buna karşılık amiral gemisi Gemini 3.5 Pro şubattan beri güncellenmedi; dolayısıyla aynı ürün ailesinde hız, erişim ve üst düzey başarım farklı takvimlerde ilerliyor.[2]
WEKA ise darboğazı modelden çok depolama katmanında ele alıyor. Şirket, NeuralMesh 6 yazılımı ile üçüncü nesil WEKApod donanımının önceden hesaplanmış belirteçleri önbelleğe alarak GPU başına verimi artırdığını savunuyor. Tek bir 56 birimlik kabin için 1,1 eksabayt etkin kapasite ve saniyede 10,2 terabayt aktarım hızı açıklanıyor. Oracle Cloud Infrastructure ve CoreWeave sonuçları da güçlü artışlar bildiriyor; ancak haber, bu kıyaslamaların WEKA tarafından sağlandığını ve bağımsız doğrulanmadığını açıkça belirtiyor.[3]
İşlemci tasarımı ve karşılaştırmanın sınırı
Nvidia'nın Vera işlemcisi, ajan tabanlı işlerin CPU tarafını hedefleyen üçüncü bir verimlilik katmanı ekliyor. Şirket, 88 özel çekirdekten 176 iş parçacığı, saniyede 1,2 terabayta kadar bellek bant genişliği ve 1,5 terabayta kadar kapasite bildiriyor. Vera'nın Rubin GPU'larına NVLink-C2C üzerinden bağlanması; kod yürütme, araç kullanımı, kum havuzu ve veri ardışık düzenleri gibi görevleri hızlandırmayı amaçlıyor. Geleneksel x86 altyapısına karşı açıklanan 1,8 kata varan artış da Nvidia'nın kendi verisine dayanıyor.[4]
Dört kayıt birlikte, verimlilik çalışmalarının artık model, önbellek, depolama ve işlemci boyunca dağıldığını; aynı sırada elektrik altyapısı planlarının da büyüdüğünü gösteriyor. Ancak farklı şirketlerin belirteç, gecikme, bant genişliği ve iş hacmi ölçümleri doğrudan birbirine çevrilemiyor. BloombergNEF tahmini toplam talebi, üretici açıklamaları ise belirli sistemlerdeki iddia edilen kazanımları anlatıyor. Seçili kaynaklar, bu yerel kazanımların toplam elektrik talebindeki artışı ne ölçüde dengeleyeceğine dair ortak bir sonuç sunmuyor.[1], [2], [3], [4]
