Eigen RadarYapay Zekâ
Analiz

Helen Toner, daha güçlü yapay zekâdan önce risk değerlendirmesi istedi

Helen Toner, öncü yapay zekâ yeteneklerinde ilerlemeden önce risk değerlendirmesi ve yönetiminde yeterli güven sağlanmasını savunuyor. Georgetown’daki araştırma merkezinin yöneticisi, Decoder görüşmesinde mevcut araçların kullanımını genişletmekle modelleri daha güçlü kılmayı ayırıyor. Denetimin bir yöneticinin kişisel niyetinden bağımsız işlemesini istiyor. Politikanın da genel yapay zekâ için belirsiz bir dönüm noktası yerine somut risklere dayanmasını öneriyor.

Yapay Zekâ··Akşam
Washington’daki bir podcast stüdyosunda, sınır yapay zekâ riskleri ve yönetişimi üzerine kaydedilen söyleşi sırasında arkadan görünen bir araştırma direktörünün konuştuğu stüdyo mikrofonu ve ses arayüzünün yakın plan detayı.

Toner, yetenek artışını kullanımın yayılmasından ayırıyor

Georgetown Üniversitesi’ndeki Güvenlik ve Gelişen Teknolojiler Merkezi’nin yöneticisi Helen Toner, daha güçlü modeller geliştirmeden önce risk değerlendirmesi ve yönetiminde yeterli güven sağlanmasını istiyor. The Verge’ün Decoder görüşmesi 4 Kasım’da kaydedildi, 14 Kasım’da yayımlandı. Toner, modellerin yeteneklerini artıran çalışmaları, var olan araçları daha çok alanda kullanmaktan ayırıyor. Mevcut sistemlerin kullanımının yayılmasıyla öncü modellerin daha güçlü kılınmasına farklı yaklaşılmasını savunuyor.[1]

Özerk sistemlerde istenmeyen davranışı durdurma yolları gerekiyor

Toner, bir sisteme istenen işi yaptırmakla istenmeyen davranışı saptayıp durdurabilmeyi ayrı sorunlar olarak ele alıyor. Yapay zekâya daha fazla özerklik ve araç erişimi verildikçe bu ayrımın önem kazandığını söylüyor. Savunma için başka bir yazılım eylemcisi kullanıldığında da savunmayı üstlenen sisteme güvenilmesi gerekiyor. Toner, genel yapay zekâ kavramının kişiler arasında farklı eşikler anlamına gelmesi nedeniyle politikanın somut yetenek ve risklere dayanmasını istiyor.[1]

Kurumsal denetimin yöneticiler değişse de sürmesi isteniyor

Kurumsal yönetim konusunda Toner, denetimin tek bir liderin kişisel niyetine dayanmamasını savunuyor. Halka açılmanın kâr baskısını artırabileceğini, aynı zamanda bağımsız komiteler, açıklama yükümlülükleri ve hukuki görevler getirebileceğini belirtiyor. Bunları, gelişmiş sistemleri hazırlayan şirketlerin hesap vermesini sağlayabilecek kurumsal araçlar olarak tartışıyor. Güvenliğe ilişkin sorumluluğu, tek bir yöneticinin kararının ötesinde taşıyabilecek düzenekleri öne çıkarıyor.[1]

Kaynakça

  1. Haber kaynağıThe VergeHelen Toner, öncü modeller için yayımdan önce risk değerlendirmesi istedi↩1↩2↩3