Paul Christiano, güvenlik gözetimi için OpenAI Vakfı kuruluna katıldı
OpenAI, yapay zekâ güvenliği araştırmacısı Paul Christiano'yu Vakıf kuruluna atadı. Christiano ayrıca kâr amaçlı şirketin güvenlik uygulamalarını gözeten Emniyet ve Güvenlik Komitesi'nde görev alacak ve OpenAI Group kurulunda oy hakkı olmayan gözlemci olacak. Axios, eski OpenAI araştırmacısının devlet standartları çalışmalarını ve Alignment Research Center kuruculuğunu öne çıkarıyor.
Yapay Zekâ··Gece
Vakıf kurulunda iki ayrı görev üstlenecek
OpenAI, Paul Christiano'yu OpenAI Vakfı kuruluna atadı. Christiano, Vakıf kurulundaki Emniyet ve Güvenlik Komitesi'ne de katılarak komite başkanı Zico Kolter ile çalışacak. Aynı zamanda OpenAI Group PBC kurulunda oy hakkı olmayan gözlemci olacak. OpenAI, komitenin kâr amaçlı şirket dahil kuruluşun bütünündeki güvenlik ve emniyet uygulamalarını gözettiğini belirtiyor. Axios da atamayı ve komitenin şirket uygulamaları üzerindeki gözetim görevini bağımsız olarak bildiriyor.[1], [2]
Devlet standartları ve uyum araştırması masaya geliyor
Christiano, ABD Ticaret Bakanlığı'na bağlı National Institute of Standards and Technology içindeki Center for AI Standards and Innovation'da kıdemli teknoloji danışmanı olarak çalışıyor. OpenAI'yle ilgili konulardan ve model değerlendirmelerinden çekilmesi gerekiyor. Daha önce kurumun öncülü ABD Yapay Zekâ Güvenliği Enstitüsü'nde sınır modellerinin ulusal güvenlik bakımından önemli yeteneklerini değerlendirdi. Ayrıca ileri yapay zekâ sistemlerini insan çıkarlarıyla uyumlu tutmayı amaçlayan Alignment Research Center adlı araştırma kuruluşunun kurucusu.[1], [2]
Eski uyum araştırması lideri yönetime dönüyor
Christiano, 2017 ile 2021 arasında OpenAI'de uyum araştırmalarına liderlik etti ve insan geri bildiriminden pekiştirmeli öğrenme yönteminin temel çalışmalarına katkı sundu. Vakıf, 2025'teki yeniden sermayelendirme sonrasında OpenAI Group PBC'yi denetliyor ve şirkette önemli bir hisse tutuyor. Emniyet ve Güvenlik Komitesi de bu Vakıf kurulunun bir parçası. Bu yapı, Christiano'nun teknik güvenlik geçmişini doğrudan şirketin model geliştirme ve kullanıma sunma uygulamalarının yönetim gözetimine taşıyor.[1], [2]
