Eigen RadarYapay Zekâ
Analiz

Kaynakla uyuşan bir yanıt, modelin belleğinden gelmiş olabilir

Bir ön baskı, kaynak gösterilen yanıtın gerçekten getirilen metne dayanıp dayanmadığını inceliyor. Araştırmacılar metinlerdeki sayısal bilgileri değiştirerek modellerin yeni değeri mi, yoksa önceki bilgiyi mi kullandığına baktı. Belleğe dayanma oranı modele ve değişikliğin büyüklüğüne göre farklılaştı. Kaynağın yanıtı destekleyip desteklemediğini denetleyen yöntemler ise bilginin kökenini güvenilir biçimde ayıramadı. Deney, sayısal bilgisi değiştirilebilen örnekleri kapsıyor.

Yapay Zekâ··Akşam
Bir üniversite laboratuvarında, kalem tutan bir araştırmacının eli dizüstü bilgisayara uzanıyor; ekranda iki sütunda yan yana silik çubuklar var, birinde amber, ötekinde turkuaz renkli tek bir çubuk.

Metindeki değeri değiştirerek iz sürme

Yeni bir ön baskı, dil modelinin getirilen bir metni kaynak gösterirken yanıtını önceden öğrendiği bilgiden üretmesini inceliyor. Araştırmacılar kaynak metindeki sayısal değeri değiştirip soruyu yeniden yöneltti. İlk değerin yinelenmesi model belleğine, değiştirilen değerin kullanılması ise sunulan metne dayanma olarak sınıflandırıldı. Düzeltilmiş yöntemde başlıklar da gövdelerle birlikte değiştirildi; sorunun içinde kalan değerler inceleme dışı bırakıldı. Deneyler, Qwen ailesinin beş büyüklüğünü ve karşılaştırma için bir Llama modelini kapsadı. Sonuçlar, değiştirilebilir sayısal bilgi içeren yanıtlardan elde edildi.[1]

Oranlar yapılan değişikliğe bağlı

Çalışmanın temel değiştirme koşulunda, modele göre yanıtların yüzde 1,2 ile yüzde 15,7 arasındaki bölümü belleğe dayanır biçimde sınıflandırıldı. Tarihler yalnızca iki ila beş yıl kaydırıldığında, bu koşulda sınanan iki modelin oranları yüzde 4,6 ve yüzde 8,5 oldu. Daha uzak değerler kullanıldığında ölçülen oran arttı. Bazı yanıtlar iki değeri birden bildirip kaynağa itiraz etti; bu davranış basit ayrımı güçleştirdi. Yöntem, örneklerin yüzde 19 ile yüzde 24 arasındaki bölümünü belirsiz bıraktı.[1]

Destek denetimi ve köken denetimi

Yazarlar aynı iddialar üzerinde on kaynak ilişkilendirme yöntemini karşılaştırdı. Metnin yanıtı destekleyip desteklemediğine bakan denetimler, bilginin kökenini ayırmada şans düzeyine yakın sonuç verdi. Modelin kaynak metin varken ve yokken verdiği olasılık dağılımlarını karşılaştırmak, özellikle tartışmalı değerde, grupları daha iyi ayırdı. Ancak kaçırılan örneklerle yanlış uyarılar eşit ağırlık taşıdığında, bu işaretle iddiaları uyarıya dönüştürmek doğru kaynak ilişkilendirmesini artırmadı. İşaret, modelin zaten bildikleriyle yakından bağlantılıydı; model bu bilgilerin bir bölümünde yine de sunulan metni izledi.[1]

Kaynakça

  1. Haber kaynağıarXivBir atfın yanıtı desteklemesi, yanıtın o kaynaktan geldiğini göstermiyor↩1↩2↩3