Microsoft, Maia 300 çıkarım çipini 2027’de hizmete almayı planlıyor
Microsoft, kendi yapay zekâ hızlandırıcısının yeni nesli Maia 300’ü tanıttı ve çipi 2027’de üretim ortamındaki hizmetlerinde kullanmayı planladığını açıkladı. Şirket, uzun bağlam, hızlı konuşmalar ve çok aşamalı işler gerektiren ürünlerde model çıkarımını bu çiple yürütmek istiyor. Tasarımda bellek aktarımı ile ağ bağlantısı öne çıkıyor; açıklanan verimlilik kazanımı bağımsız olarak ölçülmedi.
Yapay Zekâ··Akşam
Yapay zekâ çıktısına ayrılan yeni çip
Microsoft, kendi geliştirdiği yapay zekâ hızlandırıcı ailesinin üçüncü nesli Maia 300’ü tanıttı. Çipin ürün ve hizmetlerinin başlıca çıkarım sistemi olmasını istiyor. Çıkarım, eğitilmiş modelin bir istemi işleyip yanıt ürettiği, daha önceki eğitim aşamasından ayrı süreç. İki haber de duyuruyu 12 Ekim’e tarihlendiriyor ve üretim ortamında kullanımın 2027 için planlandığını aktarıyor.[1], [2]
Microsoft’un bulut yöneticisi Scott Guthrie, uzun bağlam gerektiren işleri, yanıt gecikmesinin önemli olduğu konuşmaları ve birden fazla aşamada yürüyen özerk görevleri saydı. Bunlar Maia 300’ün amaçlanan kullanım alanları; yeni çipin bu işleri bugün yaptığına dair kanıt değil. Üretim ortamına geçiş gelecek çeyrekler için öngörülüyor. İki haberde Maia 300’ün bir müşteri kurulumundan veya bağımsız kullanım sonucundan söz edilmiyor.[1], [2]
Tasarımın odağında veri aktarımı var
Microsoft, çıkarıma yönelik tasarımda işlem gücü ile bellek aktarımı, ağ trafiği ve enerji kullanımını birlikte ele aldığını söylüyor. Unite.AI’ye göre işlem, bellek denetimi ve giriş çıkış işlevleri ayrı çip parçalarına bölünüyor. Çip içindeki SRAM, yazılımla yönetilen çalışma alanı olarak kullanılabiliyor; böylece sık gereken verinin her seferinde dış belleğe taşınması gerekmiyor. Düşük duyarlıklı sayı biçimleri de model çalışırken saklanan ve aktarılan veri miktarını azaltmayı amaçlıyor.[2]
Duyurulan sistem, hızlandırıcıları Microsoft’un kendi aktarım düzeniyle Ethernet tabanlı altyapı üzerinde bağlıyor. Şirket ağı işlemciden ayrı bir eklenti olarak değil, veri akışının bir parçası olarak anlatıyor. Amaç, aynı raftaki ve farklı raflardaki işleri birbirine bağlamak. Bunlar Microsoft’un duyurusundaki mimari açıklamalar; çalışan bir Azure kurulumunda ölçülmüş verimlilik artışını tek başına kanıtlamıyor.[2]
Önceki Maia kullanımda
Maia 200 farklı bir karşılaştırma noktası: Microsoft, önceki neslin bazı Copilot ve kurum içi model işlerinde kullanıldığını söylüyor. Şirket, ailenin GitHub’daki kodlama araçları, Foundry model hizmeti ve gecikmeye duyarlı klinik işlerde daha geniş kullanımını hedefliyor. Guthrie’ye göre Maia 200 ile kazanılan deneyim yeni tasarımı etkiledi. Maia 200’ün kullanılıyor olması Maia 300’ün erişime açıldığı anlamına gelmiyor.[2]
Microsoft, kullanılan elektrik gücüne göre önde gelen GPU tabanlı sistemlerden daha fazla çıktı bekliyor; bu karşılaştırma bağımsız olarak doğrulanmış değil. Google ve Amazon da bulut hizmetleri için kendi özel yapay zekâ donanımlarını geliştiriyor. Microsoft’un yeni çipi de bu çalışmalar arasında yer alıyor. Maia 300 için bugünkü somut gelişme yeni tasarımın ve görevinin açıklanması. Kullanım ve başarım, planlanan dağıtım ilerledikçe görülebilecek.[1], [2]