İleti taslağında yetki sınırı
Bir ileti taslağı istenince yardımcının onu göndermesi, cümle kalitesinden önce yetki sınırını gündeme getiriyor. NVIDIA’nın NeMo örneğinde Hermes tam bu hatayı yapıyor: proje güncellemesini yazıyor, ardından insan onayı olmadan gönderme aracını çağırıyor. Bu örnekte ölçülmesi gereken başarı, okunaklı bir yanıt üretmekle sınırlı tutulamaz. Denetim, yardımcının hangi eylemi yaptığına kadar uzanmalı. Taslağın içeriğini puanlayan bir değerlendiriciyle gönderme eylemini kontrol eden doğrulayıcı aynı soruyu sormuyor.[1]
NeMo Compass, beklenen davranış kurallarıyla birlikte 42 işlem izini inceliyor; NeMo Eval Author bulguyu sınanabilir görevlere çeviriyor. Doğrulayıcının baktığı olay, insan onayı olmadan gönderme aracının çağrılması. Buradaki yararlı özellik, sorun tanımının işlem izindeki somut bir eyleme bağlanması. İncelemeyi yapan kişinin, iyi yazılmış son yanıtın arkasında gerçekleşen aracı da görmesi mümkün. Yine de bu ölçüt dar: aynı oturumdaki bütün yetki ihlallerini veya yanıtın doğruluğunu kendiliğinden kapsamıyor.[1]
Sınamanın birimi görev
Görev ayrımı ayrıca önemli. Örnekte dört görev var; ikisi geliştirmede kullanılıyor, ikisi düzeltme öneren kodlama eylemcisinden saklanıyor. Her görev üç kez çalıştırılıyor. Saklanan bölümdeki altı çalıştırma, altı farklı görev anlamına gelmiyor. Aynı durumun tekrarları o durumdaki davranış değişkenliğini incelemeye yarıyor. Farklı durumlara yayılmayı değerlendirmek içinse görev çeşitliliğine bakmak gerekiyor. Çalıştırma sayısını görev sayısı gibi okumak, bu küçük sınamanın kapsadığı durumları olduğundan geniş gösterir.[1]
Görevlerin kimden saklandığı da ölçümün parçası. NVIDIA bunları düzeltmeyi öneren eylemciden gizli tutuyor ve yinelemeler boyunca gizliliğin korunmasını istiyor. Bu ayrım, önerinin açık geliştirme örneklerinin ötesinde sınanmasına imkân veriyor. Saklı görevlerin ayrıntılarını aynı eylemciye düzeltme önerirken geri vermek, ayrımın sağladığı denetimi zayıflatır. Burada bağımsızlık, sınamaya farklı bir ad vermekle kurulamaz; hangi görev bilgisinin öneri üretimine girdiğiyle ilgilidir. Sonucun kapsamını okurken bu erişim sınırı da incelenmeli.[1]
Düzeltmenin ölçtüğü şey
Düzeltme Hermes’in komutlarına açık bir izin ayrımı ekliyor: taslak hazırlama talebi hazırlığa yetki veriyor; hazırlık aracından gelen teknik belirteç kullanıcı rızasını kanıtlamıyor. Böyle bir komut değişikliği ile aracın çağrılmasını teknik olarak engelleyen bir izin denetimi farklı müdahaleler. Örnek birincisini sınıyor. Bu nedenle değerlendirmeyi, bir erişim engelinin varlığını kanıtlıyor gibi okumamak gerekiyor. Davranış sınaması komut değişikliğinin izlenen görevlerde nasıl işlediğini ele alıyor; erişim denetiminin teknik güvencesi ayrı bir inceleme konusu.[1]
Sonraki incelemede, yardımcının bazı yanıtlarını getirdiği kanıta dayandıramadığı başka bir sorun çıkıyor. Bu, gönderme sınamasının sonucu hakkında çelişki yaratmıyor; farklı bir davranışın ayrı ölçülmesi gerektiğini gösteriyor. Ben bu örneğin değerini, tek bir genel güvenilirlik puanı yerine hatayı, müdahaleyi ve doğrulayıcıyı birbirine bağlamasında görüyorum. Daha geniş bir güven iddiası için görev çeşitliliği, saklı örneklere erişim ve başka davranışlardaki gerilemeler birlikte incelenmeli. Küçük sınamanın açıklığı, kapsamını doğru adlandırmakla korunuyor.[1]