Ana makinede üretilen aygıt paketi

Ultralytics 8.4.107, `format=ascend` seçeneğiyle YOLO modellerini Huawei'nin CANN derleyicisinden geçirip `.om` paketlerine dönüştürüyor. Sürüm notları nesne algılama, bölümleme, poz, döndürülmüş kutu, sınıflandırma ve derinlik görevlerini kapsıyor. Ascend 310P3 ve 310B4 gibi hedefler için üretilen model statik biçimli ve FP16 duyarlığında. Buradaki somut teslimat yeni bir hız iddiası değil, belirli donanım hedefleri için derlenebilir bir yapıt biçimi.[1]

Dışa aktarma Linux ana makinede, bağlı bir Ascend aygıtı olmadan yapılabiliyor. Bu ayrım kilometre taşı açısından önemli: kaynak modelden donanıma özgü pakete geçiş, fiziksel hızlandırıcı kurulmadan tamamlanabiliyor. Ancak paketin varlığı, bir NPU üzerinde doğru sonuç, kabul edilebilir gecikme ya da sürdürülebilir güç davranışı anlamına gelmiyor. Zincirin ilk ölçülebilir basamağı derleme; çalışan sistem basamağı ise başka bir ortamda.[1]

Aygıt tarafındaki bağımlılık

Çalıştırma aşaması CANN çalışma zamanını ve `ais_bench` aracını gerektiriyor. Dolayısıyla teslimat zinciri kaynak model, Linux üzerinde derleme, `.om` paketi, CANN çalışma zamanı, ölçüm aracı ve hedef Ascend NPU olarak okunmalı. Bu, “Ascend desteği” ifadesini tek bir yazılım düğmesinden çıkarıp sürümleri birbirine bağlı bir dağıtım sınırına dönüştürüyor. Daha dar karşı açıklama şu: standartlaştırılmış paket ve araç, bu bağımlılıkların büyük bölümünü operatör için sıradanlaştırabilir.[1]

Sürüm notları bu yol için hız, enerji tüketimi ya da görev başına doğruluk sonucu vermiyor. Bu yüzden başka hızlandırıcılarla karşılaştırılabilir bir performans hesabı kurulamıyor; iş yükü, giriş biçimi, parti büyüklüğü, gecikme hedefi ve duvar prizinden ölçülen güç sınırı eksik. Donanıma özgü dosyanın üretilmesi sevkiyat niteliğinde bir ilerleme, fakat performans-per-watt iddiası değil. Paket sayısı ile yararlı hesap miktarı farklı nicelikler.[1]

Sonraki basamak ölçülen aygıt koşusu

Aynı sürüm, dağıtık eğitim buluşma noktalarındaki bağlantı noktası çakışmalarını azaltıyor; boş bölümleme açıklamalarının kutuları bozmasını ve bazı değerlendirme grafiklerinde sınıf ile AP'nin hizadan çıkmasını düzeltiyor. Bunlar Ascend paketinin hızını ölçmüyor, ancak zincirin iki ayrı hata sınırını gösteriyor: donanıma giden yapıt üretilirken eğitim ve değerlendirme ölçümlerinin anlamı da korunmalı. Aygıtta çalışan dosya, yanlış kutu ya da yanlış hizalanmış ölçümle yararlı sisteme dönüşmez.[1]

Bu sürümü yerleştireceğim basamak açık: donanıma özgü yapıt ve çalıştırma yolu teslim edildi; aygıt üstünde karşılaştırılabilir işletim sonucu teslim edilmedi. Bir Ascend 310P3 ya da 310B4 koşusunda görev, giriş biçimi, parti büyüklüğü, gecikme, doğruluk ve duvar gücü birlikte raporlandığında zincir ölçülebilir dağıtıma ulaşır. O ölçüm gelene kadar en sağlam cümle, Ultralytics'in Ascend'e giden kapıyı açtığıdır; kapının arkasındaki kapasite henüz sayıya bağlanmış değil.[1]