AMD, Amazon ve Mozilla açık yapay zekâ altyapısını öne çıkarıyor
Yeni FP8 yazılımı, robot eğitimi veri döngüsü ve Mozilla’nın altyapı yaklaşımı, açık araçların daha ucuz ve denetlenebilir yapay zekâ dağıtımı için nasıl konumlandığını gösteriyor.
Yapay Zekâ··Sabah
AMD GPU’larında FP8 eğitim çalışması
PyTorch bloguna göre AMD ve Meta mühendisleri, AMD Instinct GPU’ları için geliştirdikleri FP8 eğitim iyileştirmelerini TorchAO ile TorchTitan’ın ana koluna aldırdı. Sekiz MI300X GPU üzerinde Llama3-8B ile satır bazlı FP8, BF16’ya göre yüzde 13,4 daha yüksek verim veriyor. Yazı, veri hareketini üç ayrı düzeyde azaltan çekirdek çalışmasını anlatıyor. DeepSeek-V3 671B biçimlerinde sütun bazlı ölçek hesabı bitişik yazma düzenine geçirilince bir uzman karışımı katmanı 7.290 mikrosaniyeden 1.170 mikrosaniyeye indi, yani 6,2 kat hızlandı. İleri geçişte art arda çalışan beş ayrı GPU işlevinin tek bir Triton işlevinde toplanması sekiz MI325X GPU üzerinde uçtan uca verimi yüzde 17 artırdı, saniyede 5.996 belirteçten 7.027 belirtece çıkardı ve BF16 ile FP8 arasındaki farkın yüzde 89’unu kapattı. AMD donanımının e4m3fnuz biçimi için otomatik algılama bir hız ayarı sayılmıyor, doğruluk gereği: TorchAO yanlış üst değerle ölçekleme yaptığında taşma hata vermeden model kalitesini bozuyordu. Ekip, Triton otomatik ayar arama uzayını genişletme denemesinin ölçülebilir kazanç vermediğini ve geri alındığını da yazıyor.[1]
Açık bir robot eğitimi veri döngüsü
Amazon ve Hugging Face ekipleri, AWS’nin Apache 2.0 lisanslı Strands Robots geliştirme kitini, Hugging Face’in LeRobot çerçevesini ve mart 2026’da duyurulan Xet tabanlı depolama kovalarını tek bir iş akışında birleştirdi. Robot gösterimleri doğrudan kovaya kaydediliyor, veri kümesi indirilmeden akıtılarak eğitim yapılıyor ve eğitilen ağırlıklar donanıma geri gönderiliyor. Yazının paylaştığı ölçümlere göre içeriğe göre parçalama, Hub genelinde aktarılan veriyi yaklaşık dört kat azaltıyor: 500 MB’lık bir dosyada baytların yüzde 1’i değiştiğinde yüklenen miktar 5,5 MB’da kalıyor. NVIDIA L4 üzerinde 51,6 milyon parametreli bir ACT politikasının 500 eniyileştirme adımı 133 saniye sürüyor. 10 GB’lık bir yükte önbelleği ısınmış CDN okuması saniyede 1.086 MB’a çıkarken soğuk okuma saniyede 780 MB’da kalıyor. Ölçümler yazının kendi denemelerinden geliyor. Döngü, yakalama, akışlı eğitim ve ağırlık iadesini kapalı bir robot yığını yerine açık araçlar olarak paketliyor; veri yolu depolama kovası ile eğitim akışı üzerinden izlenebilir kalıyor.[2]
Mozilla açık yapay zekâyı altyapı sayıyor
Mozilla’nın teknoloji sorumlusu Raffi Krikorian, Rest of World’e verdiği söyleşide politika yapıcıların yapay zekâya ürün gözüyle değil altyapı gözüyle bakması gerektiğini söylüyor. Mozilla’nın bir ay önce yayımladığı rapora göre en iyi açık kaynaklı modellerle tescilli sistemler arasındaki başarım farkı yüzde 3’e indi. Krikorian’a göre bireysel kullanıcılar ChatGPT ve Claude’da kalırken, bilgi işlem ve insan kaynakları ekiplerinin kurduğu iş akışları fiyat-başarım dengesi ve veri denetimi nedeniyle açık modellere kayıyor; düzenlemeye tabi sektörlerdeki şirketler verinin güvenlik duvarının içinde kalmasını istiyor. Aynı rapor, Alibaba’nın açık kaynaklı Qwen modelinin şubat 2026’da kendisinden sonra gelen sekiz modelin toplamından daha çok indirildiğini aktarıyor. Twitter ve Uber’de mühendislik ekipleri yöneten Krikorian, açık ağırlıklı ekosistemi ciddiye alınmayan bir çekirdekken Android’in temeli hâline gelen Linux’a benzetiyor. Tartışma, Meta’nın 10 Ağustos’ta yeni bir açık ağırlıklı model yayımlamasıyla yeniden hareketlendi. AMD’nin ana kola alınan FP8 çekirdekleri ile Amazon ve Hugging Face’in açık robot veri döngüsünün yanında sav, açık yazılım ve ağırlıkların yalnızca hobi için değil daha ucuz eğitim, denetlenebilir veri yolları ve altyapı ölçeğinde dağıtım için konumlandığı yönünde.[3], [1], [2]
