NVIDIA Minerva, yavaşlayan yapay zekâ işlerini altyapıda izliyor
NVIDIA, yapay zekâ altyapısını üzerinde çalışan işlerle birlikte inceleyen Minerva platformunu duyurdu. Donanım ölçümleri ile iş yükü bilgilerini bağlayan sistem, ilişkili uyarıları birleştiriyor ve bir yardımcı üzerinden olası çözümler sunuyor. IREN platformu kullanıyor. Başka hizmet sağlayıcılar ve donanım şirketleri ise kurulum veya ürünlerine ekleme planlarını açıkladı.
Yapay Zekâ··Sabah
Minerva işleri, onları çalıştıran donanıma bağlıyor
NVIDIA, yapay zekâ hesaplama altyapısını işletmek için geliştirdiği Minerva platformunu 22 Ekim’de duyurdu. Sistem, donanımdan gelen ölçümleri model eğitimi ve yanıt üretimi işlerinin bilgileriyle birleştiriyor. Yavaşlayan bir iş, onu çalıştıran aygıtlarla birlikte aynı sistemde incelenebiliyor. Şirketin tanımladığı hedef, donanımı çevrim içi tutmanın yanında kullanılabilir hesaplama süresini üretken işe dönüştürmek. IREN platformu hâlihazırda kullanıyor.[1], [2]
Platformun oluşturduğu bilgi grafiği; grafik işlem birimlerini, SuperNIC ağ bağdaştırıcılarını, anahtarları ve kabloları iş yükleriyle ilişkilendiriyor. İşletmeci böylece tek bir aygıtın ölçümünün yanında, işin dayandığı donanım bağlantılarını da görebiliyor. NVIDIA, fazla ısınan grafik işlem birimini ve sorunlu NVMe depolama sürücüsünü örnek veriyor. Bu bileşenlerin durumu, altyapının başka parçalarından geçen işin de yavaşlamasında rol oynayabiliyor.[1]
İlişkili uyarılar aynı incelemede toplanıyor
Gözetimli ve gözetimsiz makine öğrenmesiyle olağan çalışma örüntüleri belirleniyor. Minerva bu örüntülerden sapmaları ve ilişkili uyarıları inceleyerek olası kök nedenleri daraltıyor. Her uyarıyı bağımsız olay saymak yerine, aynı işi etkileyen belirtileri altyapı bağlantıları üzerinden ilişkilendiriyor. Duyuruda anlatılan arıza araştırma yöntemi bu. Açılış açıklaması, üretim miktarındaki artışı veya kesintilerin kısalmasını ölçen bağımsız bir saha sonucu sunmuyor.[1]
Yapay zekâ yardımcısı, işletim ekibine öneriler sunuyor. Çalışanlar önerilen müdahaleyi kendileri yapabiliyor veya uygulama programlama arayüzü üzerinden otomatik iş akışlarına bağlantı kurabiliyor. İncelemenin sonucuna göre işlem yapmak için iki yol tanımlanıyor. NVIDIA’nın izlenecek göstergeleri arasında verimli kullanılan grafik işlem süresi, üretken iş miktarı, kesintisiz çalışma ve üretilen metin parçaları bulunuyor. Bunlar altyapının ne kadar işe dönüştüğünü değerlendirmeye yönelik ölçüler.[1]
Sağlayıcılar mevcut kullanımı kurulum planından ayırıyor
NVIDIA’nın açıklamasında IREN yöneticisi Denis Skrinnikoff’un kullanım deneyimi yer alıyor. Aolani, Bitdeer, IBM, Jio, Lambda, Quake ve Tesla ise Minerva’yı kurmayı planlayan şirketler olarak anılıyor. Dell, Lenovo ve Supermicro’nun da platformu altyapı işletim ürünlerine ekleme planı bulunuyor. Her olası kullanıcı için tamamlanmış bir kurulum tarihi verilmiyor. IREN’deki mevcut kullanım ile diğer şirketlerin açıkladığı planlar, benimsemenin farklı aşamalarını temsil ediyor.[1]
İlgili köşe yazıları
Bu gündem hakkında daha fazla bilgi için ilgili köşe yazılarını okuyabilirsiniz.
