NVIDIA, yerel yapay zekâ sistemlerinde model başlatmayı kolaylaştıracak
NVIDIA, ekim sonunda Sync yazılımına Model Launcher eklemeyi planlıyor. Geliştiriciler bu işlevle bir modeli indirip yerel DGX Spark sistemlerinde çalıştırabilecek. Duyuruda örnek olarak Qwen3.8-27B veriliyor. Başlatıcı, modeli dizüstü bilgisayardan erişilebilir kılacak ve OpenCode’u kodlama için ayarlayacak. Cluster Assistant ise sistemler arasındaki ağın kurulum ve yapılandırma kontrollerini üstleniyor.
Yapay Zekâ··Gece
Model Launcher’ın ekim sonunda sunulması planlanıyor
NVIDIA, ekim sonunda Sync uygulamasına Model Launcher eklemeyi planlıyor. Yazılım, geliştiricinin bir modeli indirip yerel DGX Spark sistemlerinde birkaç düğmeye basarak başlatmasını amaçlıyor. DGX Spark, NVIDIA’nın masaüstünde yapay zekâ geliştirmek için sunduğu platform. 2 Ekim duyurusunda örnek olarak Qwen3.8-27B adlı dil modeli veriliyor. Başlatıcı, modeli tek sistemde veya birbirine bağlanmış sistemlerden oluşan bir kümede çalışacak biçimde ayarlayacak. Hardware Busters da bu yaklaşan işlevi NVIDIA’nın yerel yapay zekâ güncellemesine eşlik eden yazılım değişiklikleri arasında aktardı. Model dosyalarının indirilmesi ve çalıştırılacak ortamın hazırlanması, başlatıcının üstleneceği işlemler arasında bulunuyor.[1], [2]
Dizüstü bilgisayar, Spark üzerinde çalışan modele ulaşacak
Başlatıcı, yerel modeli kullanıcının dizüstü bilgisayarından erişilebilir kılacak. NVIDIA, OpenCode adlı kodlama aracını da bu modeli kullanacak biçimde ayarlamayı planlıyor; geliştirme çalışması tarayıcı üzerinden başlayabilecek. Model Spark üzerinde çalışırken, dizüstü bilgisayar kullanıcıya çalışacağı arayüzü sağlayacak. NVIDIA, dil ve görüntü üretme uygulamalarına yerel model sunmayı platformun kullanım alanları arasında sıralıyor. Böylece modelin çalıştırılmasını ayrı bir bilgisayar üstlenirken, dizüstü veya masaüstü bilgisayardaki uygulama ona istek gönderebilecek. Model dosyalarını indirmek, modeli çalıştırmak ve geliştirme aracını ona bağlamak bu kurulumun farklı aşamalarını oluşturuyor. Planlanan başlatıcı, bu aşamaları kullanıcının daha kolay başlatacağı bir işlem düzeninde sunmayı amaçlıyor.[1]
Cluster Assistant, sistemler arasındaki bağlantıyı kuruyor
Sync içindeki mevcut Cluster Assistant, birbirine bağlanmış DGX Spark sistemlerini buluyor, yapılandırmalarını denetliyor ve ConnectX-7 ağını kuruyor. Bu ağ bileşeni, yerel sistemlerin işi paylaşmasına destek veriyor. Her düğüm aynı NVIDIA yazılım ortamını kullanıyor. Ortamda DGX OS işletim sistemi, CUDA-X yapay zekâ kütüphaneleri, Agent Toolkit araçları ve Nemotron modelleri bulunuyor. Yerel çalıştırma seçenekleri arasında Ollama, vLLM ve PyTorch da sayılıyor. NVIDIA, sürekli çalışan kodlama veya araştırma eylemcilerini, başka bir bilgisayara model sunmayı ve daha büyük işleri sistemler arasında paylaşmayı kullanım örnekleri olarak veriyor. Ağ yardımcısı bağlantı katmanını kurarken, planlanan başlatıcı model indirme ve çalıştırma aşamasını ekleyecek. NVIDIA, yerel yazılım ortamının kullanım alanları arasında model uyarlamasını, modellerin yanıt üretmesini ve eylemci görevlerini sıralıyor. Bağlı sistemler ağ katmanı üzerinden çalıştırma işini paylaşıyor. Uygulamalar ise başka bir bilgisayardan bu modellere ulaşıyor; yerel altyapı modelin hesaplama işini üstleniyor.[1]
