Saarland araştırmacıları dil modelini iPhone’da kişiselleştirdi
Saarland Üniversitesi’nin ön baskısı, SmolLM3 dil modelini iPhone 17 Pro üzerinde kişiye uyarlamayı deniyor. Kullanıcıların film etiketleme örnekleriyle yapılan kısa eğitimlerde, sunucu deneyine yakın doğruluk bildirildi. Uzun denemelerde pil tükendi ve telefon ısındığında işlem hızı düştü. Yöntem bütün model ağırlıklarını yeniden eğitmek yerine küçük ek bileşenleri değiştiriyor. Henüz hakemli yayın olarak sunulmayan sonuçlar tek telefon ve belirli bir yazılım düzenine dayanıyor.
Yapay Zekâ··Akşam
Küçük ek bileşenler telefonda eğitimi sağlıyor
Saarland Üniversitesi’nde hazırlanan tek ön baskı, SmolLM3 dil modelini iPhone 17 Pro üzerinde uyarlamayı deniyor. Modelin öğrendiği sayısal ayarlar olan değiştirgelerin sayısı 3 milyar. Araştırmacılar, temel ağırlıkları değiştirmeden küçük ek bileşenleri eğiten LoRA yöntemini ve düşük duyarlıklı ağırlıkları kullanıyor. Eğitim, makine öğrenmesi hesaplamaları için kullanılan MLX Swift yazılımıyla yürütülüyor. Çalışma henüz hakemli yayın olarak sunulmuyor.[1]
Kısa kişiselleştirmeler sunucu sonucuna yaklaşıyor
Kişiselleştirme deneyi, 100 kullanıcının film etiketleme verilerini kullanıyor. Kullanıcı başına ortanca örnek sayısı 36; eğitim süresi yaklaşık 3 dakika. Araştırmacılar, 3.302 sorguda telefondaki doğruluğu yüzde 48,6, sunucudaki doğruluğu yüzde 48,8 olarak bildiriyor. Uyarlamadan önceki değer yüzde 36,6. Sonuçlar araştırmacıların tek cihaz ve belirli bir yazılım düzeninde yaptığı deneyden geliyor.[1]
Uzun eğitimde pil ve ısı sınır oluyor
405 örneğin üç geçişte işlendiği uzun deneme 1,74 saat sürdü ve pilin yüzde 47’sini kullandı. 550 örnekli eğitim 3,07 saat ve yüzde 80 pil gerektirdi. Daha büyük bir deneme pil tükenince durdu. Isınma, işlem hızını yaklaşık yarıya düşürdü. Dinlenmek için ara verildiğinde bir saat içinde daha az eğitim adımı tamamlandı. Telefonun iOS işletim sistemi, grafik işlemcisinin hesaplamaları sürdürmesi için uygulamanın önde ve ekranın açık tutulmasını gerektirdi.[1]
