Anthropic, altı METR değerlendirmecisine kurum içi erişim ve yayımlama hakkı verdi
METR’nin altı araştırmacısı Anthropic donanımı, çalışma alanı ve şirketin risk ekiplerine benzer kurum içi erişim aldı. Dış değerlendirme kuruluşu, Anthropic’in veto edemeyeceği değerlendirmeler yayımlayabilecek; önceden belirlenen dar kapsamlı hassas bilgiler metinden çıkarılabilecek. METR, bu çıkarmaları kamuya açık biçimde eleştirebilecek. Yeni düzen, Anthropic’in risk raporları üzerindeki önceki çalışmaların ardından daha geniş erişim sağlıyor.
Yapay Zekâ··Sabah
Dışarıdan altı araştırmacıya kurum içi araçlar açıldı
Anthropic, gelişmiş yapay zekâ sistemlerini değerlendiren kâr amacı gütmeyen METR’nin altı çalışanına şirket donanımı, çalışma alanı ve kurum içi araçlara erişim sağladı. 15 Ekim’de duyurulan düzen, dış ekibe Anthropic’in kendi risk değerlendirmecilerine büyük ölçüde benzer erişim veriyor. Şirket çalışanları, belirlenen istisnalar dışında bilgileri bu araştırmacılarla, yapay zekâ davranışının amaçlarla uyumu üzerine çalışan bir iş arkadaşıyla paylaşır gibi paylaşmaya yönlendiriliyor.[1], [2]
Müşteri bilgileri, avukat-müvekkil gizliliği kapsamındaki yazışmalar ve model mimarisine ilişkin bilgiler erişim dışında tutulan alanlar arasında. Anthropic, risk değerlendirmesi açısından çok önemli mimari ayrıntıların açık kurum içi onayla genel olarak paylaşılabileceğini belirtiyor. İş birliği, uygulanabilir anlaşmalarla çalışan küçük bir ekibi kapsıyor. Anthropic ile başka projelerde çalışanlar da dahil, diğer METR araştırmacıları yerleşik ekibin çalışmalarından ayrı tutuluyor.[1], [2]
METR, şirket vetosu olmadan yayımlayabilecek
METR, Anthropic’in risk düzeyleri, olaylar ve şirket uygulamaları hakkındaki değerlendirmelerini yayımlayabilecek; şirketin yayını veto etme hakkı bulunmuyor. Anthropic, önceden tanımlanmış dar kapsamlı alanlardaki bilgilerin metinden çıkarılmasını isteyebiliyor. METR ise gizli bilgiyi açıklamadan bu çıkarmaları kamuya anlatabilecek ve gerekçelerini haklı bulup bulmadığını söyleyebilecek. Böylece araştırmacıların şirket sistemlerine genişleyen erişimine, bulgularını kamuya ulaştırma hakkı da eşlik ediyor.[1], [2]
Yeni düzen üçüncü erişim düzeyini uyguluyor
Anthropic, değerlendirmeciler için üç erişim düzeyi geliştiriyor. İlkinde şirketin belirlediği erişimle dar kapsamlı risk incelemesi yapılıyor ve yayımlama şirket onayı gerektiriyor. İkinci düzey daha fazla bilgi ve ön onay olmadan yayımlama hakkı sağlıyor; belirli bilgilerin çıkarılmasını isteme hakkı sürüyor. METR’ye uygulanan üçüncü düzey, ikinciye benzer yayımlama haklarına çalışanlara yakın erişim ekliyor. Şirket zaman içinde bu düzeyde birkaç ekibi yerleştirmeyi amaçlıyor.[1], [2]
Yeni erişim, METR’nin geçen yıl boyunca Anthropic’in risk raporlarını incelemesini ve şirketin eylülde daha güçlü bağımsız değerlendirme yönündeki taahhüdünü izliyor. Anthropic, bu çalışma için uzmanlık, bağımsızlık, yeterli bilgi ve yayımlama özgürlüğü gerektiğini belirtiyor. Eğitim ve koruma önlemlerine ilişkin bazı bilgilerin hassas olduğunu veya kötü amaçlı kişilere yarayabileceğini söylüyor. Yerleşik dış ekibi gönüllü olarak kabul eden şirket, bu yolla değerlendirmecilerin kurumun çalışma biçimini daha yakından görmesini amaçlıyor. Değerlendirmecilerin şirkette pay sahibi olmaması ve mali ya da işleyiş bakımından şirkete bağımlı olmaması isteniyor.[1], [2]
