llama.cpp, b11850 derlemesinde Soprano konuşma modellerini desteklemeye başladı. Bütünleştirme, modelin metin işleyen ana yapısını ve ses çözücüsünü yerel çalıştırma yazılımının kullandığı biçimlere dönüştürüyor. Girdiyi hazırlayan işlemler ve ses üretiminin bellek hesabı da kapsama alındı. Çözücü tüm sözü birlikte işlediğinden akış modu, konuşma tamamlandıktan sonra sesi tek parça halinde iletiyor. Bu davranış, parçalı ses aktarımının ne zaman başladığını belirliyor.
Modelleri yerel olarak çalıştırmaya yarayan llama.cpp yazılımı, b11850 derlemesinde Soprano konuşma üretimini ekledi. Projenin sürüm notları, Soprano-80M ve Soprano-1.1-80M desteğini sıralıyor. Bütünleştirme, modelin hesaplamasını yürüten Qwen3 ana yapısıyla sesi üreten Vocos çözücüsünü birleştiriyor. Ana yapı ve çözücü ağırlıklarının yazılımın model biçimlerine aktarılması için gereken dönüştürme işlemleri de bu eklemenin içinde yer alıyor.[1]
Vocos çözücüsü söylenen sözün tamamını birlikte işliyor. Bu nedenle akış modunda ses, sonlandırma işleminden sonra tek parça halinde geliyor; aşamalı olarak çözülen parçalar halinde aktarılmıyor. Çözücü, dışa aktarılan Qwen3 ana yapısından ayrı, yalnızca üretime yönelik bir mmproj bileşeni olarak yükleniyor. Yardımcı işleme yolu bu parçaları metinden konuşma üretme aracına bağlıyor. Aracın belgelerine de Soprano kullanımı eklendi.[1]
Soprano metni üretimden önce hazırlanıyor: harfler küçültülüyor, gereksiz boşluklar birleştiriliyor ve rakamlar ayrı ayrı ele alınıyor. Tanınmayan girdilerde bilinmeyen belirteç kullanılıyor. Bellek hesabına ses üretiminin gerektirdiği çalışma bilgisi de ekleniyor. Ses uygulamasında Vocos işlemleriyle birlikte, çözme sırasında kısa zaman aralıklarına uygulanan ters Fourier dönüşümü de bulunuyor. Bu uygulama ayrıntıları projenin kendi yayımladığı sürüm notlarına dayanıyor.[1]
