MemCut, silinen sırların başka konuşma parçalarından çıkarılmasını sınıyor
MemCut, bir sırrın açıkça söylendiği mesaj silindikten sonra eylemci yapay zekânın aynı bilgiyi çıkarıp çıkaramadığını değerlendiriyor. Ön baskı, 456 kurgusal sırdaki kanıt izlerini takip ediyor; olağan aramayla bulunan bilgiyi kalan bellek parçalarından çıkarılan bilgiden ayırıyor. Denenen sistemlerde ek silme işlemlerinden sonra da bilgi çıkarılabiliyor. Tek çalışma metin belleğini kapsıyor; gerçek kullanıcıların sızan verilerini incelemiyor.
Yapay Zekâ··Öğle
Dolaylı ipuçları silinen bir sırrı koruyabiliyor
Eylemci yapay zekânın uzun süreli belleğinde kullanıcı talebiyle unutmayı sınayan MemCut, silinen bir sırrın yeniden çıkarılıp çıkarılamadığını ölçüyor. 15 Ekim tarihli arXiv ön baskısı, on beş uzun konuşma dizisine yayılmış 456 kurgusal sır kullanıyor. Kanıt ilişkilerini araştırmacılar tasarlıyor; model bunları konuşmaya dönüştürüyor. Tek çalışmadaki veriler gerçek kişisel bilgi içermiyor. Her sır için açık açıklamaların yanında dolaylı ipuçları da işaretleniyor.[1]
İki geri kazanım yolu kalan belleği ayrı sınıyor
İlk yol, bellek sisteminin kendi araması üzerinden soru soruyor. Artık geri kazanım adı verilen ikinci yol ise aynı yanıtlayıcı modele, işaretli kanıtlardan türemiş ve silmeden sonra kalmış bellek parçalarını doğrudan veriyor. Olağan arama sonuç getirmese bile kalan parçalar bir çıkarıma yetebiliyor. Deneyler beş bellek tasarımını ve dört dil modelini kapsıyor; açık açıklamalar, dolaylı kanıtlar ve yanıltıcı benzer parçalar ayrı izleniyor.[1]
Ek silmeden sonra da bilgi çıkarılabiliyor
Yazarlar, açık açıklamanın ardından yirmi adaydan seçilen on ek konuşma turu model yardımıyla silinse bile yüzde 39–76 artık geri kazanım kaldığını bildiriyor. Daha küçük bir deney alt kümesinde, silme bütçesini değiştirmeden aday havuzunu genişletmek yararlı bulunuyor. Oranlar incelenen benzetim düzenlerine ait. Deneylerin kapsamı metin belleğiyle sınırlı tutuluyor; model ağırlıklarındaki bilginin silinmesi ve çok kipli bellek kapsam dışında kalıyor. Silmeyle birlikte yitirilen ilgisiz içerik de bütünüyle ölçülmüyor.[1]
