Google, TPU ailesine gizli veri ve büyük bağlam için iki sistem ekledi
Google, mevcut sekizinci kuşak yapay zekâ işlemcileri üzerine kurulan iki sistem duyurdu. TPU 8tx, işlenmekte olan hassas verileri donanım düzeyinde korumayı amaçlıyor. TPU 8i Max ise geniş kod tabanları ve uzun videolar gibi büyük bağlamlarla çalışan uygulamalar için iki çıkarım yongasını birleştiriyor. Şirket, yeni bir yonga kuşağı yerine farklı işler için düzenlenmiş sistemler sunuyor.
Yapay Zekâ··Öğle
İki sistem mevcut işlemci kuşağı üzerine kuruluyor
Google, yapay zekâ işlerini çalıştırmak için tasarlanan Tensör İşleme Birimi (TPU) ailesinin sekizinci kuşağına TPU 8tx ve TPU 8i Max sistemlerini ekledi. 9 Kasım’daki duyuru, mevcut yongalar çevresinde oluşturulan sistemleri kapsıyor. Yeni düzenler, hassas veri işleme ve büyük bağlamlarla çalışma amaçlarına yönelik. Bağlam, modelin bir görev sırasında değerlendirdiği kod tabanı veya uzun video gibi malzemeyi ifade ediyor.[1], [2]
Google, büyük ölçekli model eğitimi için TPU 8t’yi, eğitilmiş modeli çalıştırarak yanıt üretme işlemi olan çıkarım için de TPU 8i’yi nisandaki Cloud Next konferansında tanıtmıştı. Yeni sistemler, aynı kuşak içindeki hesaplama, ağ bağlantısı, bellek ve güvenlik düzenini değiştiriyor. Yeni bir numarayla adlandırılan işlemci kuşağı duyurulmadı; mevcut donanım farklı iş yükleri için bir araya getiriliyor.[1]
Gizli bilişim veriyi işlenirken korumayı amaçlıyor
TPU 8tx, hassas bilgilerle çalışan ve düzenlemelere tabi olan işletmelerle kamu kurumları için tasarlandı. Sistem, TPU 8t’deki yongaları AMD’nin beşinci kuşak EPYC ana işlemcileriyle eşleştiriyor. Gizli bilişim yaklaşımı, veriyi etkin biçimde işlenirken donanım düzeyinde korumayı amaçlıyor. Bu koruma, depolanan ve ağ üzerinden taşınan bilgiler için uygulanan önlemlere ekleniyor. Tasarımın odağında, hesaplama sürerken kullanılan verinin korunması bulunuyor.[1]
Sistemde, hızlı iletişim için geliştirilen Google Boardfly ağ düzeni kullanılıyor. Google; verilerin gizliliğini koruyarak ince ayar yapmayı, bir modelin yeteneklerini başka bir modele aktaran damıtmayı ve ödüllerle davranış geliştiren pekiştirmeli öğrenmeyi kullanım alanları arasında sayıyor. Bunlar şirketin mimari ve desteklenen işler hakkındaki açıklamaları. Duyuru, müşterilerdeki bütün kurulumların güvenliğini bağımsız olarak değerlendiren bir inceleme sunmuyor.[1]
Birleşik paket büyük bağlamlarla çalışmayı hedefliyor
TPU 8i Max, iki TPU 8i yongasını tek pakette birleştiriyor. Hesaplama kaynakları, yonga içi bellek ve yüksek bant genişlikli belleğe bağlantılar birlikte genişletiliyor. Google, sistemi bütün bir kod tabanının veya uzun videoların ele alındığı işler için konumlandırıyor. Bu görevlerde verinin bellek içinde taşınması, işlemeyi sınırlayabiliyor. Paket, mevcut sekizinci kuşak çıkarım yongalarının aynı tasarımını kullanıyor.[1]
Donanım duyurusunda, Google’ın önceki ay kaynak kodunu açtığı TorchTPU yazılımı gibi daha önce yapılmış çalışmalar da anılıyor. Bu yazılım yatırımları, yeni sistemlerin arka planını oluşturuyor. Google, iki sistem için bütün bölgeleri kapsayan genel kullanım takvimini veya müşterilerdeki kurulumların tüm koşullarını bu açıklamada sıralamadı.[1]
