Eigen RadarYapay Zekâ
Arşiv
Analiz

AMD Helion, eylemci görevleri ile model çıkarımını esnek raflarda buluşturuyor

AMD, eylemci yapay zekâ için açık raf tasarımı Helion’u duyurdu. Tasarım, model çıkarımını ayrı altyapıya bırakan işlemci ağırlıklı kurulumları da işlemci ve grafik hızlandırıcılarını birleştiren kurumsal rafları da kapsıyor. Hava ve sıvı soğutma seçenekleri var. Ortaklar farklı kurulumları geliştiriyor; Open Compute Project’e yapılması planlanan katkı, paylaşılabilir bir altyapı tasarımını amaçlıyor.

Yapay Zekâ··Sabah
Aynı veri merkezi koridorunda kabloyla bağlanan iki farklı işlemci rafı.

Helion, eylemci işleri ile model çıkarımına ayrı yer açıyor

AMD, birden fazla adımda görev yürüten ve model çağıran eylemci yapay zekâ yazılımları için Helion adlı açık raf tasarımını 12 Ekim’de duyurdu. Tasarım, ortak donanım geliştirmeye yönelik sektör girişimi Open Compute Project’in kurallarına dayanıyor. Şirket, Helios ile kullandığı açık platform yaklaşımını, eylemcilerin görev yürütmesi ile modellerin çıkarım yapmasının farklı ihtiyaçlarına uyarlıyor. Ortakların, müşterinin çalıştırdığı işe uygun bileşenlerle sistem kurması amaçlanıyor. Duyuru, modelin eğitim yönteminden çok bu görevlerin çalışacağı altyapıyı ele alıyor.[1], [2]

Büyük bulut işletmelerine yönelik yalnız işlemcili düzende, EPYC işlemciler eylemcinin görevlerini yürütmeye ayrılıyor. Model çıkarımı, rafın bağlandığı ayrı altyapıda çalışıyor. Kurumsal düzen ise EPYC işlemci düğümlerini, Instinct MI350P grafik hızlandırıcılarını ve genel amaçlı hesaplamayı aynı rafta birleştiriyor. Eylemcinin yürütülmesi, model çıkarımı ve destekleyici işler burada bir araya geliyor. İki seçenek, işlerin yerleştirildiği donanım açısından ayrılıyor; farklı müşterilerin aynı işlemci ve hızlandırıcı bileşimini kullanması gerekmiyor.[1], [2]

Soğutma ve hesaplama farklı işlere göre düzenleniyor

Helion hem hava hem sıvı soğutmayı destekliyor. AMD, ortakların işlemci başarımını, çekirdek yoğunluğunu, güç gereksinimini ve hızlandırıcı kullanımını müşterinin işine göre düzenleyebileceğini belirtiyor. Kişisel eylemciler, kurumsal uygulamalar, kod çalıştırma ve karmaşık iş akışları şirketin saydığı kullanım alanları arasında. Bütünleşik düzende eylemci görevlerine ve grafik işlemcisi üzerinde çıkarıma ayrılan bileşenlerin yanında, veri tabanı ve depolama sunucuları ile teknik hesaplama için genel amaçlı bileşenler de bulunuyor. Raf yaklaşımı bu farklı işleri aynı altyapı taslağında karşılıyor.[1], [2]

AMD ayrıca eylemcilerin model çağrılarını gelişmiş modeller ile açık modeller arasında dağıtmayı amaçlayan bütünleşik bir yönlendirici açıklıyor. Yönlendiricinin görevi, sistem içindeki model isteğinin nereye gönderileceğini düzenlemek. Raf taslağı, farklı hesaplama işlerinin yürütme kaynaklarını ve bağlantılarını birlikte ele alıyor. Şirket, yönlendiriciyi bu altyapının bir parçası olarak tanımlıyor. Açıklanan düzen, eylemcinin yaptığı iş ile yanıt için çağırdığı modelin çalışmasını ayrı bileşenlerle eşleştiriyor.[1]

Ortaklar açık tasarımı geliştiriyor

AMD, Helion belirtimini topluluğun geliştirmesi ve benimsemesi için Open Compute Project’e sunmayı planlıyor. Farklı kurulumlar ortaklarla geliştirilme aşamasında. Cisco, Dell, HPE, Lenovo ve Supermicro duyuruda yer alan şirketler arasında. Ortakların açıklamaları, sistemlerin kurulması ve bütünleştirilmesi, soğutma, yönetim ve mevcut altyapıya uyarlama üzerinde duruyor. Helion’un duyurulması ortak tasarım ile geliştirme çalışmasını ortaya koyuyor; müşterinin kullanacağı kurulumun hazırlanması bu çalışmanın devamını oluşturuyor.[1], [2]

Kaynakça

  1. Haber kaynağıAMDAMD, eylemci iş yükleri için Helion açık raf tasarımını duyurdu↩1↩2↩3↩4↩5
  2. Haber kaynağıThe RegisterHelion rafları eylemci işleri için işlemci ve çıkarımı birleştiriyor↩1↩2↩3↩4
YZ güvenliği ve regülasyonÇip savaşları ve tedarik zinciriSınır modeli yarışı

Aynı masadan diğer analizler

Yapay Zekâ masasındaki tüm Gündem analizlerini görüntüle →