Perplexity, belge parçalarını çevrelerindeki bağlamla birlikte arayan modelinin önizleme ağırlıklarını yayımladı. Eğitim yöntemi, yalnızca yanıtı içeren parçaya değil onu açıklayan diğer parçalara da uygunluk puanı veriyor. Model MIT lisansıyla kurumun kendi altyapısında çalıştırılabiliyor. Perplexity API desteği henüz açılmadı; sonraki sürümlerde modelin ürettiği sayısal gösterimler ve arayüz, geriye dönük uyumluluk korunmadan değişebilir.
Perplexity, yanıtlarla onları destekleyen parçaları birlikte bulmayı amaçlayan pplx-embed-v2-context-9b-preview modelini 30 Eylül’de yayımladı. Gömme modelleri metni, arama sisteminin karşılaştırabildiği sayısal gösterimlere dönüştürüyor. Bu önizleme, belge parçalarını çevrelerindeki metinle birlikte kodluyor; bir parça, belgenin başka yerinde verilen bağlamı taşıyabiliyor.[1], [2]
Geleneksel eğitim, yanıtı içeren tek parçayı yararlı sayıp diğerlerini olumsuz örnek olarak işaretleyebiliyor. Böylece yanıtı açıklamak için gereken parçalar da dışarıda kalabiliyor. Perplexity, bağlam sıkıştırma modelini öğretmen olarak kullanıyor. Öğretmen, sorguyla belgeyi birlikte okuyarak metnin küçük birimleri olan belirteçlere puan veriyor; bu puanlardan belge parçaları için uygunluk bilgisi çıkarılıyor. Öğrenci model, uygunluğun parçalar arasında nasıl dağıldığını öğreniyor. Öğretmen eğitim sırasında çalışıyor; arama sırasında ikinci bir sıkıştırma modeli çağrısı gerekmiyor.[1]
Önizleme ağırlıkları, model paylaşım platformu Hugging Face’te MIT lisansıyla yayımlandı. Model, 2048 boyutlu vektörleri ve 1024 boyutlu gösterimi destekliyor; sekiz bitlik tamsayı gömmeleri üretebiliyor. Çalıştırmak için Transformers model kitaplığının 5.4.0 veya daha yeni sürümüyle modelin özel kodunu yükleme izni gerekiyor.[1]
Bu önizleme için Perplexity API erişimi henüz açılmadı. Sorgularla belge parçaları farklı yöntemlerle kodlanıyor. Önizlemenin ağırlıkları, gömmeleri ve arayüzü geriye dönük uyumluluk korunmadan değişebilir; model açıklaması, mevcut vektörlerin gelecekteki bir sürümün ürettiği vektörlerle karıştırılmaması gerektiğini belirtiyor.[1]
