Apollo, OpenAI modellerini kurum içinde inceleyecek
Britanya merkezli Apollo Research, altı değerlendiricinin dört ay boyunca OpenAI içinde çalışacağı bir pilot üzerinde anlaştı. Ekip, modellerin geliştirme ve kurum içi kullanım sırasında insan denetimini aşmaya çalışıp çalışmadığını araştıracak. Anlaşma, eğitim bilgilerine ve çalışanlara erişimin sınırlarını belirliyor. Apollo bu kısıtları kamuya açıklayabilecek; sonuçların iki raporda yayımlanması planlanıyor. Bazı erişim ayrıntıları üzerindeki görüşmeler sürüyor.
Yapay Zekâ··Gece
Değerlendiriciler geliştirme sürecini izleyecek
Yapay zekâ güvenliğini sınayan Britanya merkezli Apollo Research, modellerin insan denetimini sağlayan düzenekleri aşmaya çalışıp çalışmadığını araştırmak için OpenAI içinde yürütülecek bir pilot üzerinde anlaştı.[1], [2]
Tasarlanan çalışmada altı değerlendirici dört ay görev yapacak. Eğitimde oluşan teşvikler, sınamalarda ortaya çıkarılan davranışlar, kurum içi kullanım ve ilgili akıl yürütmenin görülebilirliği araştırılacak. Apollo daha önceki değerlendirmeleri genellikle son eğitim aşamasından sonra, kamuya açılışın hemen öncesinde yapıyordu.[1]
Eğitim bilgileri belirlenen koşullarla açılacak
Eğitim incelemesi için ilgili kodlara, veri kümelerine, pekiştirmeli öğrenme kayıtlarına ve eğitimin ara aşamalarındaki model kopyalarına erişim öngörülüyor. Apollo, OpenAI donanımını kullanacak ve yetkilendirilmiş çalışanlarla görüşecek. OpenAI teknik, güvenlik veya fikri mülkiyet gerekçesiyle bilgi vermeyebilecek; ret gerekçesini yazılı sunacak. Sonucun olumsuz olması tek başına ret gerekçesi sayılmayacak. Bazı erişim koşulları için görüşmeler sürüyor.[1]
Raporlarda bulgular ve erişim sınırları açıklanacak
Kamuya açık iki rapor hazırlanması planlanıyor. OpenAI gizli kanıtların çıkarılmasını isteyebilecek; Apollo ise değerlendirme sonuçlarını ve kısıtların bunları nasıl etkilediğini açıklama hakkını koruyacak. Yönetim kurulunun güvenlik komitesine, raporların çıkarılmamış sürümleri iletilecek. Apollo erişim taleplerinin reddedilmesini ve raporlardan çıkarılan bilgilerin sonuçlara etkisini de kamuoyuna anlatabilecek.[1]