Cactus Compute, işlemci üzerinde yerel çalışan ve Needle motorunu paylaşan Whistle konuşma tanıma modelini yayımladı. Model, kısa sesleri yedi dilde yazıya çeviriyor; dili kendisi saptayabiliyor ve sözcüklerin zamanlarını verebiliyor. Aynı motor, konuşmayı araç çağrılarıyla birleştirebiliyor. İngilizce, Almanca, Fransızca, İspanyolca, İtalyanca, Felemenkçe ve Lehçeden oluşan destek kapsamına Türkçe dahil edilmiyor. Sesin yerel işlenmesi, cihaz üzerindeki uygulamaların kullanım biçimini belirliyor.
Cactus Compute, merkezi işlem biriminde yerel çalışan açık konuşma tanıma modeli Whistle’ı 2 Ekim’de yayımladı. Model, şirketin cihaz üzerinde çalışan dil modelleri için kullandığı Needle motoruna yükleniyor. Konuşma girdisi, metin görevlerini yürüten aynı yerel yazılım sistemine katılıyor.[1], [2]
Kısa ve tek kanallı sesleri alan Whistle, İngilizce, Almanca, Fransızca, İspanyolca, İtalyanca, Felemenkçe ve Lehçeyi destekliyor. Türkçe bu kapsamın dışında kalıyor. Uygulama dil belirtmezse model dili saptıyor. Çıktıda metnin yanında her sözcüğün başlangıç ve bitiş zamanı ile olasılığı bulunuyor. Kodlayıcı, sözcükleri çözümlemeden konuşmanın sayısal bir temsilini de üretebiliyor. Tarayıcıdaki gösterim, modeli ilk kullanımda indiriyor ve sesin cihazda kaldığını belirtiyor.[1]
Bir kullanım örneği, Whistle ile Needle’ı birleştirerek konuşmayı önce metne, ardından yapılandırılmış araç çağrılarına dönüştürüyor. İki model aynı C++ motorunu, kapsayıcı biçimini ve ağırlıkları daha az bitle temsil eden nicemleme yöntemini kullanıyor. Konuşma arayüzü yükleme, yazıya çevirme ve konuşmanın sayısal temsilini üretme işlevlerini sunuyor. Motor ve platform klasörleri Cactus Compute’un kod deposundan, model ağırlıkları ise Hugging Face üzerinden dağıtılıyor.[1]
Uygulamalar, çözümleme sırasında seçilmiş ifadelerin olasılığını artırmak için anahtar sözcükler verebiliyor. Ayrı bir seçenek, çözücünün derinliğini değiştiriyor. Sesin anahtar ve değer izdüşümleri bir kez hesaplanıp çözücü metni üretirken tutuluyor; her adımda yeniden hesaplanmıyor.[1]
