ByteDance'in model ölçeği iddiası, AMD'nin Taalas alımı ve SAP'nin yapay zekâ dışı harcamaları sıkması, daha büyük yapay zekâ hedeflerinin donanım ve şirket bütçelerinde nasıl yer açtığını gösteriyor.
Yapay Zekâ··Öğle
Ölçek büyüyor, ayrıntı az
ByteDance'in hazırladığı yeni yapay zekâ modeli, Financial Times'a dayandırılan Reuters haberinde Anthropic'in en gelişmiş Mythos sistemine yakın bir ölçekte anlatılıyor. The Star'ın yayımladığı metin, projeye yakın olduğu belirtilen kişilerin sözlerine dayanıyor; ByteDance ve Anthropic'in yorumu haberde yer almıyor. Reuters da aktarılan bilgiyi bağımsız olarak doğrulayamadığını belirtiyor. Bu nedenle gelişmenin somut çekirdeği, modelin büyüklüğüne ilişkin bir haber iddiasıyla sınırlı. Parametre sayısı ve eğitim takvimi açıklanmıyor. Yine de bu dar bilgi, büyük model yarışının yönünü görünür kılıyor: ByteDance'in hedefi, karşılaştırma ölçüsü olarak Anthropic'in en ileri sistemiyle yan yana konuyor. Modelin yetenekleri, kullanım alanları veya hesaplama düzeni hakkında bir sonuç çıkarmak için elde veri yok. Şimdilik okurun önündeki gelişme, ayrıntılı bir ürün duyurusundan çok, büyük ölçekli bir model çalışmasının sürdüğüne ilişkin ve açıkça kaynağa dayandırılmış bir haber. Ölçek hedefi gündeme gelmiş durumda; haberde projeden tamamlanmış modele giden yolun ayrıntıları tanımlanmıyor.[1]
Model silikona yerleşiyor
AMD'nin Toronto merkezli Taalas'ı satın alma anlaşması, hesaplama sorununa farklı bir yerden yaklaşıyor. Taalas, model ağırlıklarını bellek ile işlemci arasında sürekli taşımak yerine transistörlere işleyen, modele özgü tümleşik devreler geliştiriyor. Şirketin HC1 adlı ilk deneme yongası TSMC'nin 6 nanometrelik üretim sürecinde hazırlandı ve Meta'nın Llama 3.1 8B modelini saniyede 17.000 belirtece yakın hızda çalıştırdı. Taalas, bu hızın Nvidia H200'ün 73 katı olduğunu ve onda bir güçle elde edildiğini söyledi; SiliconANGLE, karşılaştırmada ortak bir iş yükü tanımı verilmediğini özellikle aktarıyor. HC2 ise yaklaşık 20 milyar parametre büyüklüğündeki modelleri hedefliyor. Bu yaklaşımın karşılığında esneklik daralıyor: tamamlanmış bir Taalas parçası yalnızca kendisi için tasarlanan modeli çalıştırıyor. Şirket, 100'ü aşkın katmandan yalnızca ikisinin yeni bir tasarım için değiştiğini ve kendi araçlarıyla üretime gönderme sürecinin yaklaşık iki ay sürdüğünü söylüyor. AMD, bu yongaları Instinct hızlandırıcıları, Helios rafları ve ROCm yazılımıyla birlikte konumlandırmayı planlıyor. Bedeli açıklanmayan anlaşma, alışılmış kapanış koşulları ile düzenleyici onaylara bağlı. Böylece AMD, genel amaçlı hızlandırıcılarının yanına belirli modeller için tasarlanmış daha dar bir donanım yolunu da eklemeye hazırlanıyor.[2]
Bütçede yapay zekâya yer açılıyor
SAP'deki karar, yapay zekâ giderinin şirketin günlük kaynak dağılımına nasıl girdiğini daha doğrudan gösteriyor. 404 Media'nın elde ettiği şirket içi e-postaya göre SAP, bir önceki ay seyahat ve işe alımların çoğunu askıya aldı. Yalnızca yapay zekâyla ilgili seyahatler ve işe alımlar bu dondurmanın dışında tutuluyor. Joseph Cox imzalı haberde şirket, harcamalarında disiplinli olması gerektiğini belirtiyor; karar bir önceki ay alınırken e-posta 6 Ağustos'ta yayımlandı. Gelişmenin odağında, büyük bir yazılım şirketinin yapay zekâ harcamasına yer açarken başka etkinlikleri sınırlaması var. Üç haber yan yana konduğunda kaynak ayırma kararının farklı katmanları görülüyor. ByteDance için konu, bildirilen model ölçeği; AMD için belirli modelleri silikona işleyen bir şirketi ürün ailesine katmak; SAP içinse yapay zekâ dışındaki seyahat ve işe alımları kısmak. Haberler tek bir ortak fiyat vermiyor ve birbirinden farklı kurumları anlatıyor. Aralarındaki bağ, daha büyük yapay zekâ hedeflerinin yalnızca model adıyla kalmayıp yonga tasarımı, satın alma ve işletme bütçesi kararlarına kadar uzanması. Hesaplama gideri böylece teknik bir ayrıntı olmanın ötesine geçiyor ve hangi araçların, alımların ve kurumsal etkinliklerin öncelik kazanacağını belirleyen görünür bir kaynak dağıtımı konusu haline geliyor.[3], [1], [2]
