Eski Galaxy’de yerel yapay zekâ, bölünmüş ekranda hızlandı
Eski bir Galaxy S23 FE’de yapılan yerel dil modeli denemesinde, bellek sorununun ardından arka planda çalışma engeli çıktı. Modeli çalıştıran uygulama arka plana geçince yanıt üretimi yavaşladı. XDA yazarı Shekhar Vaidya, tarayıcı ile sunucuyu bölünmüş ekranda açık tutarak hızı artırdı. Ölçümler tek telefona ve kullanılan ayarlara ait; yavaşlamanın kökeni henüz belirlenmedi.
Yapay Zekâ··Sabah
İki pencere açıkken yanıt hızlandı
XDA yazarı Shekhar Vaidya’nın telefon denemesinde, Android’de uçbirim ortamı sağlayan Termux ile Chrome tarayıcısını bölünmüş ekranda birlikte açık tutmak, Gemma’nın hızını saniyede 5,4–6,6 belirtece çıkardı. Vaidya, uygulama öndeyken sekiz işlemci çekirdeğinin, arka plandayken ise üçünün kullanılabildiğini gözledi. İşletim sisteminin görev dağıtımından kuşkulanıyor; sorunun Android’den mi Samsung yazılımından mı kaynaklandığı kesinleşmedi. Ölçümler bu telefon ve kurulumlarla sınırlı. Yazarın seçtiği denemelerde Gemma daha güvenilir yanıtlar verirken, Qwen bazı model adlarını ve tarihleri uydurdu.[1]
Küçük model arka planda yavaşladı
XDA yazarı Shekhar Vaidya, kısa özetler ve e-posta yanıtları için küçük dil modellerini eski Samsung Galaxy S23 FE telefonunda çalıştırdı. 24 Ekim’de yayımladığı denemeye, Android’de yerel modelleri çalıştıran PocketPal uygulamasıyla başladı. Küçük Gemma 3 1B başarıyla çalışırken Gemma 4 E2B denemelerinde bellek uyarıları görüldü ve uygulama tekrar tekrar kapandı. Vaidya daha sonra dil modellerini çalıştırmaya yarayan llama.cpp yazılımını Termux uçbirim ortamında kullanarak Gemma’yı yükledi.[1]
Tarayıcı öne geçince bekleme uzadı
Tarayıcı öne geçince model sunucusu belirgin biçimde yavaşladı. Bekleme süresi, 68 belirteç uzunluğundaki bir yanıt için 11 dakika 56 saniyeyi buldu. Belirteç, modelin işlediği ve ürettiği metin parçalarını anlatıyor. Termux için pil kısıtlamaları zaten kaldırılmıştı; güç tasarrufu ile kullanılmayan uygulamaları uyutma seçenekleri kapalıydı. Qwen3.5 2B de arka planda yavaşladı. Kısa karşılaştırmada arka planda saniyede 0,17, önde ise 13,33 belirteç hızında çalıştı.[1]
İlgili köşe yazıları
Bu gündem hakkında daha fazla bilgi için ilgili köşe yazılarını okuyabilirsiniz.
