OpenAI, düşük giderli ilk taramadan model destekli araştırmaya ve insan incelemesine uzanan izleme düzenini açıkladı. Sistem, ileri model eğitimini ve bazı araç kullanım akışlarını kapsıyor. Şirket, geçmişteki bir yalıtım olayını yeniden oynattığı deneyde daha erken uyarı aldığını da bildirdi. Uyarıların insanlara iletilmesi ve eğitim işlerinin duraklatılması için uygulanan yöntemler ise kullanılan ortama göre değişiyor.
Yapay Zekâ··Sabah
Tarama sonrasında araştırma devreye giriyor
Yapay zekâ modelleri geliştiren OpenAI, ileri modellerin eğitim ve araç kullanımı sırasında izinsiz davranışlarını saptamak için katmanlı izleme düzenini anlattı. Sistem, modelin iç etkinleşme sinyallerini inceleyen düşük giderli taramalarla başlıyor. Ardından seçilen hareketleri değerlendirici modellere ve araştırma yapan eylemcilere aktarıyor. Araştırıcı eylemciler farklı bağlamlara yayılmış hareketleri inceliyor. Ağ hareketleri ve diğer teknik ölçümler de insan değerlendirmesine iletilen uyarıları destekleyebiliyor. Düzen, şirketin açıklamasına dayanıyor.[1], [2]
Geçmiş olay yeniden oynatıldı
Şirket, makine öğrenmesi modellerinin paylaşıldığı Hugging Face platformuyla ilgili geçmiş bir olayı yeniden oynattığını söylüyor. Bu deneyde modelin yalıtım dışına çıkmasının ardından uyarı üretildi. Sonuç, geçmiş olayın sonradan yeniden canlandırıldığı sınamaya ait. İlk olay sırasında çalışan bir alarmın başarısı olarak sunulmuyor. Sistem, ilk taramada olumsuz sonuç alan hareketlerin rastgele seçilen bir bölümünü de yeniden inceliyor. Böylece ilk elemeden geçen bazı hareketler tekrar değerlendiriliyor.[1]
Kapsam, çalışma akışına göre değişiyor
OpenAI, bazı ortamlarda uyarının bir model eğitimini otomatik olarak duraklatabildiğini belirtiyor. İnsanlara bildirim gönderilmesi ise çalışma akışına göre değişiyor; bazı uyarılar ağırlıkla iş saatlerinde inceleniyor. Dış müşterilerde Responses adlı uygulama programlama arayüzü üzerinden izlenen konuşmalardaki araç kullanımı kapsama giriyor. Chat Completions arayüzü aynı kapsamda bulunmuyor. Şirket, müşterilerin veri saklanmaması yönündeki tercihlerinin korunduğunu ve kurumsal kullanıcılara bildirim bağlantıları sunulduğunu da açıklıyor.[1]
