Değerler cümleden önce geliyor

Bir kredi değerlendirmesinden başvuranın adını çıkarmak kolay bir hedef gibi görünüyor. Aynı metinde hesabın numarası, Japon takvimine göre yazılmış doğum tarihi ve daire numarası da bulununca görev değişiyor. NVIDIA’nın yeni Nemotron PII Japan kümesi, bu bilgilerin yerlerini işaretlenmiş sentetik belgeler sağlıyor. Kredi gerekçesini özetleyen bir sistem için iki ayrı hata var: kişinin kimliğini açığa çıkarmak ve kimliği gizlerken kararın gerekçesini de silmek. Ölçümün ikisini birlikte görebilmesi gerekiyor.[1]

Üretim düzenindeki önemli tercih, değerlerin cümleden önce belirlenmesi. Kişi bilgileri ve hesaplama sonuçları önce oluşturuluyor; dil modeli yer tutucularla yazıyor, yazılım gerçek değerleri daha sonra yerleştiriyor. Buradaki gerçeklik, gerçek müşteriye değil sentetik belgenin kendi tutarlılığına ait. Bu ayrım, üreticinin kendi çıktısını yine kendisine onaylatması sorununu daraltıyor. Yine de bir açıklamanın sayıyla uyumlu olması, o açıklamanın farklı bir kurumun belgesini veya dilini temsil ettiğini göstermiyor.[1]

Yanlış alarmın paydası

Kümenin 100.000 belgesinin tamamında kişisel bilgi etiketleri bulunuyor. Bu, kaçırılan adları veya yanlış çizilmiş sınırları incelemek için zengin bir başlangıç. Ancak kişisel bilgi içermeyen belgelerin yanlışlıkla sakıncalı sayılması başka bir payda gerektiriyor. Bir hastane içi genel duyurunun ya da kimlik bilgisi taşımayan bir raporun gereksiz maskelenmesini, yalnızca kişisel bilgi içeren belgelerden oluşan bir sınamayla doğrudan saymak mümkün değil. NVIDIA da bu oran için ayrı değerlendirme verisi gerektiğini açıkça belirtiyor.[1]

Etiket bulunmayan bir bölüm de otomatik olarak zararsız metin sayılmıyor. Açıklamaya göre etiketler belge türüne özgü kuralları izliyor ve ilgili bütün bilgileri kapsamayabiliyor. Böyle bir bölümü doğru işaretleyen sistem, puanlamada yanlış alarm vermiş gibi görünebiliyor. Dolayısıyla düşük puanın iki olası açıklaması var: model gerçekten gereksiz yerleri gizliyor olabilir veya referans etiketleri o kullanım için eksik olabilir. Bu iki durum farklı müdahaleler gerektiriyor; yalnızca modelin karar eşiğini değiştirmek ikisini ayıramaz.[1]

Metnin kalan işi

NVIDIA, kendi denemesinde 95.000 belgeyle eğitim, 5.000 belgeyle iç doğrulama yapmış. Belgelerin birbirine benzerliği nedeniyle iç doğrulama model sürümünü seçmekte kullanılmış; farklı metinlere genelleme ise ayrı Sumi test ve Sumi OOD kümeleriyle incelenmiş. Bu ayrım yararlı: aynı üretim düzeninden gelen örneklerde başarılı olmakla yeni bir metin dağılımında çalışmak iki ayrı soru olarak ele alınıyor. Dış kümeler üzerinde üreticinin ölçüm yapması da bağımsız bir ekibin sonucu yeniden elde etmesiyle aynı aşama değil.[1]

Bu veri kümesinin en kullanışlı okuması, tek bir gizlilik puanı aramak yerine metnin hangi işini korumak istediğimizi belirlemek. Kimlik bilgisi sınırları doğru bulunurken kredi gerekçesi özetlenebiliyor mu? Sağlık belgesinde hastanın adı silinirken bakım için gerekli bağlam kalıyor mu? Bunlar kümenin önerdiği kullanım soruları; hastalar üzerinde gösterilmiş bir yarar iddiası değil. Kişisel bilgi içermeyen belgeler ve hedef kurumun metinleriyle tamamlanan bir sınama, gereksiz silme ile bilgi sızıntısının ayrı bedellerini görünür kılar. Eğer kimlik bilgileri doğru kaldırılırken kredi gerekçesi de kayboluyorsa, doğru tespit sayısı uygulamanın yararını olduğundan yüksek gösterir.[1]