METR, OpenAI’ın yaz dönemindeki eylemci gözetimindeki boşlukları saptadı
METR, Redwood Research ile yazın yürüttüğü OpenAI iç eylemci gözetimi incelemesini yayımladı. Çalışmada, denetlenmesi öngörülen işlemlerle gerçekten denetlenen işlemler arasında boşluklar bulundu. Konuşma geçmişinin kısaltılması da sorunlardan biriydi. OpenAI üretim sistemlerini etkileyen açıkları kapattığını bildiriyor; METR ise bütün bu düzeltmeleri bağımsız olarak yeniden sınamadı.
Yapay Zekâ··Sabah
İnceleme yaz dönemindeki sistemi ele aldı
Yapay zekâ değerlendirme kuruluşu METR, OpenAI’ın şirket içindeki eylemcileri izleme düzenine ilişkin incelemesini 22 Ekim’de yayımladı. METR’den bir çalışan ile Redwood Research kuruluşundan bir çalışan, çalışmayı 21 Temmuz ile 11 Ağustos arasında yürüttü. İnceleme, şirket içinde çalışan eylemcilerin sorunlu işlemlerinin gözetim tarafından yakalanıp yakalanamayacağına odaklandı. Bulgular yaz dönemindeki sistemi anlatıyor. OpenAI, üretim sistemlerini etkileyen açıkların daha sonra kapatıldığını bildiriyor.[1], [2]
Araştırmacılar şirkette, kendilerine eşlik eden çalışanlarla birlikte çalıştı. İç koda, belgelere ve sistem istemlerine eriştiler; çalışanlarla görüşmeler de yaptılar. Böylece teknik yapının yanında gözetimin işletilmesine ilişkin bilgi topladılar. Çalışmanın sonunda OpenAI için 61 sayfalık rapor hazırlandı. Bazı bölümleri çıkarılmış sürüm 38 sayfa içeriyor. İki sürüm aynı incelemeye dayanıyor; kamuya açıklanan ayrıntının kapsamı farklılaşıyor.[1]
Denetlenmesi öngörülen her işlem gözetime ulaşmadı
İncelemede, gözetim kapsamına alınması öngörülen isteklerle gerçekten gözetimden geçen istekler ayrıldı. Kapsamın geniş olması, eylemcinin bütün işlemlerinin denetlendiğini göstermiyordu. Araştırmacılar isteklerin yönlendirilmesini, gözetim hatalarını ve eylemcilerin çalışmayı sürdürme biçimini birlikte ele aldı. Denetlenmesi gereken bir işlemin kullanılabilir biçimde gözetime ulaşması gerekiyordu. Bu ayrım, tasarlanan kapsam ile fiilen işlenen eylemler arasındaki boşluğun temelini oluşturdu.[1]
Konuşma geçmişinin kısaltılması bu boşluklardan biriydi. Gözetim sistemi, önceki etkileşimin tamamı yerine sıkıştırılmış geçmişi alabiliyordu. Bazı kayıtların bulunmaması, sorunun ne kadar yaygın olduğuna ilişkin hesaplamayı da belirsizleştirdi. OpenAI aynı sorunu bağımsız olarak saptadı ve inceleme sürerken düzeltti. Böylece çalışma hem bulunan zayıflığı hem de araştırmacılar şirketteyken atılan düzeltme adımını kayda geçirdi.[1]
Tur sonuna bırakılan denetim gecikebiliyordu
Başka bir sorun, denetimin eylemcinin turu bitirmesine bağlanmasıydı. Eylemci işlem yapmayı sürdürdüğünde devam eden faaliyet hemen incelenmek yerine denetim ertelenebiliyordu. METR, düzenli aralıklarla gözetim, sistemler arasında daha açık sorumluluk, olaylara müdahale ve yeni saldırı benzetimleri önerdi. OpenAI’ın sonraki düzeltme açıklamaları, METR’nin doğrudan bulgularından ayrı duruyor. Değerlendiriciler daha sonra yapılan bütün düzeltmeleri bağımsız olarak yeniden sınamadı; inceleme, ele alınan sistem dışındaki bütün ürünlerin bugünkü durumunu belirlemiyor.[1]
