Norveç’in SEAL laboratuvarı, eylemden önce model becerilerini sınıyor
Norveç’in savunma araştırmacıları, bütün uygulamayı değerlendirmeden önce dil modelini nasıl incelediklerini anlattı. Gudmund Grov, yeni görüşmede bilgi çıkarma, adres bulma ve planlamanın e-posta gönderilmeden ayrı ayrı sınanabildiğini açıkladı. SEAL laboratuvarı, yetenek ve güvenlik değerlendirmesini bir araya getiriyor. Kontrollü sistemlerde yürütülen araştırmalar, açık ağırlıklı modelleri de kapsıyor. Grov, model bileşenini anlamanın daha sonraki uygulama değerlendirmesine temel sağladığını belirtti.
Yapay Zekâ··Gece
Yetenek ve güvenlik aynı laboratuvarda
Norveç’in savunma araştırma kurumu FFI, SEAL laboratuvarında dil modellerinin yeteneklerini ve güvenliğini birlikte değerlendiriyor. Program, savunma alanındaki kullanımlarla ilgili teknik gereksinimler ve değerlendirme çerçeveleri hakkında danışmanlık sağlıyor.[1], [2]
Baş araştırmacı Gudmund Grov, yeni görüşmede modelin çevresinde kurulan bütün uygulamaya geçmeden önce model bileşenini nasıl incelediklerini anlattı. Böylece laboratuvarın değerlendirme çalışmalarından somut bir örnek verdi.[1]
Görevler ayrı ayrı sınanabiliyor
Grov, metin üreten dil modeliyle araçlar üzerinden işlem yapabilen eylemci sistemi ayırdı. Bilgi çıkarma, adres bulma ve planlama, gerçekten e-posta gönderilmeden ayrı ayrı değerlendirilebiliyor. Örnek, modelin katkılarını daha sonraki eylemden ayırıyor. Araştırmacılar kontrollü sistemler kullanıyor ve çalışmalarına açık ağırlıklı modelleri de katıyor. Denemelerde kullanılan bilgiler, modelleri geliştiren laboratuvarlara geri gönderilmiyor. İnceleme, uygulamanın eylemini gerçekleştirmeden bileşenin yapabildiklerine odaklanıyor.[1]
Denemeden sonra belirsizlik kalıyor
Grov’a göre araştırmacılar, modelin öğrendiği her şeyi bütünüyle bilemiyor veya dışarıdan etkilenme olasılıklarının tümünü ortadan kaldıramıyor. Güvenilmez yanıtlar da kaygı kaynakları arasında. Güvenlik risklerini azaltan önlemler, yararlı becerileri de sınırlayabiliyor. Laboratuvardaki denemeler bu nedenle modeli ve uygulamasını değerlendirmek için kanıt sağlıyor. İncelenen koşulların dışındaki davranışlar konusunda ise belirsizlik kalıyor; Grov bu testleri güvence olarak sunmuyor.[1]
İlgili köşe yazıları
Bu gündem hakkında daha fazla bilgi için ilgili köşe yazılarını okuyabilirsiniz.