Helen Toner, daha güçlü yapay zekâdan önce risk değerlendirmesi istedi
Helen Toner, öncü yapay zekâ yeteneklerinde ilerlemeden önce risk değerlendirmesi ve yönetiminde yeterli güven sağlanmasını savunuyor. Georgetown’daki araştırma merkezinin yöneticisi, Decoder görüşmesinde mevcut araçların kullanımını genişletmekle modelleri daha güçlü kılmayı ayırıyor. Denetimin bir yöneticinin kişisel niyetinden bağımsız işlemesini istiyor. Politikanın da genel yapay zekâ için belirsiz bir dönüm noktası yerine somut risklere dayanmasını öneriyor.
Georgetown Üniversitesi’ndeki Güvenlik ve Gelişen Teknolojiler Merkezi’nin yöneticisi Helen Toner, daha güçlü modeller geliştirmeden önce risk değerlendirmesi ve yönetiminde yeterli güven sağlanmasını istiyor. The Verge’ün Decoder görüşmesi 4 Kasım’da kaydedildi, 14 Kasım’da yayımlandı. Toner, modellerin yeteneklerini artıran çalışmaları, var olan araçları daha çok alanda kullanmaktan ayırıyor. Mevcut sistemlerin kullanımının yayılmasıyla öncü modellerin daha güçlü kılınmasına farklı yaklaşılmasını savunuyor.[1]
Özerk sistemlerde istenmeyen davranışı durdurma yolları gerekiyor
Toner, bir sisteme istenen işi yaptırmakla istenmeyen davranışı saptayıp durdurabilmeyi ayrı sorunlar olarak ele alıyor. Yapay zekâya daha fazla özerklik ve araç erişimi verildikçe bu ayrımın önem kazandığını söylüyor. Savunma için başka bir yazılım eylemcisi kullanıldığında da savunmayı üstlenen sisteme güvenilmesi gerekiyor. Toner, genel yapay zekâ kavramının kişiler arasında farklı eşikler anlamına gelmesi nedeniyle politikanın somut yetenek ve risklere dayanmasını istiyor.[1]
Kurumsal denetimin yöneticiler değişse de sürmesi isteniyor
Kurumsal yönetim konusunda Toner, denetimin tek bir liderin kişisel niyetine dayanmamasını savunuyor. Halka açılmanın kâr baskısını artırabileceğini, aynı zamanda bağımsız komiteler, açıklama yükümlülükleri ve hukuki görevler getirebileceğini belirtiyor. Bunları, gelişmiş sistemleri hazırlayan şirketlerin hesap vermesini sağlayabilecek kurumsal araçlar olarak tartışıyor. Güvenliğe ilişkin sorumluluğu, tek bir yöneticinin kararının ötesinde taşıyabilecek düzenekleri öne çıkarıyor.[1]