OpenAI ve Anthropic, Britanya parlamentosunda bağlayıcı kuralları destekledi
OpenAI ve Anthropic, Britanya parlamentosundaki oturumda yapay zekâ güvenliği için yasal kuralları destekledi. Google DeepMind ve Meta başka yollar önerirken, eski araştırmacılar şirketlerin güvenlik kararlarını sorguladı. Kamu görevlileri de henüz kullanıma açılmamış modellere erişimin gönüllü işbirliğine bağlı olduğunu anlattı. Oturum, şirketlerin farklı düzenleme görüşleriyle mevcut sınama düzeninin sınırlarını bir araya getirdi.
Yapay Zekâ··Öğle
Geliştiriciler bağlayıcı güvenlik kurallarında ayrışıyor
Britanya parlamentosunun İş, Yenilik, Bilim ve Ticaret Komitesi, 13 Ekim’de şirket temsilcilerini ve eski araştırmacıları dinlediği yapay zekâ oturumunu düzenledi. Oturumdaki ifadeler, giderek güçlenen sistemler için güvenlik önlemlerini ve şirketlerin geliştirme sırasında aldığı riskleri kapsadı. Kamu denetimine ilişkin farklı görüşler milletvekillerine sunuldu. Oturum yeni yasal yükümlülüklerin yürürlüğe girmesi anlamına gelmiyor.[1], [2]
Anthropic’in Avrupa sorumlusu Liam Booth-Smith, gönüllü taahhütlerin yetersiz kaldığını savunarak bağlayıcı yükümlülükleri destekledi. OpenAI Başkan Yardımcısı Tom Duff Gordon da yasal düzenlemeyi ve uluslararası sözleşmeyi destekledi; zorunlu görevler için başlangıç olarak olay bildirimini gösterdi. Google DeepMind temsilcisi Owen Larter, standartlara ağırlık verdi. Meta’dan Rob Sherman ise Britanya’nın mevcut düzenleyici kurumlarına işaret etti. Böylece diğer şirketlerin desteklediği yeni bağlayıcı düzenlemeden farklı bir yol önerdi.[1]
Model sınamaları gönüllü erişime bağlı
Kamu görevlileri, ileri düzey modelleri kullanıma açılmadan önce inceleyen Britanya Yapay Zekâ Güvenlik Enstitüsü’nün çalışma sınırlarını anlattı. Müdür Henry de Zoete, erişimin geliştiricilere ve yabancı hükümetlere bağlı olduğunu söyledi. Kabine Ofisi’nin üst düzey görevlisi Cat Little, bu düzenin gönüllü olduğunu doğruladı. De Zoete, enstitünün bir modelin güvenliğini onaylamadığını ve geliştiricilerin modeli kullanıma açıp açamayacağına karar vermediğini açıkladı. Mevcut düzende sınama için erişim sağlamakla kullanıma açılışa izin verme yetkisi ayrı sorumluluklar olarak ele alınıyor.[1]
Duff Gordon, ABD hükümeti izin verdiği sürece OpenAI’ın modelleri kullanıma açmadan önce enstitüye sunmayı sürdüreceğini belirtti. Booth-Smith, Anthropic’in daha önce Mythos 5.1 için sınırsız erişim sağlayamadığını, ancak Britanya’daki enstitünün artık erişimi olduğunu söyledi. Komite Başkanı Liam Byrne, kurulun Britanya’nın seçeneklerini inceleyeceğini ve büyük ekonomileri bir araya getiren G20 üzerinden uluslararası sözleşme arayacağını açıkladı.[1]
Eski araştırmacılar şirketlerin güvenlik kararlarını sorguluyor
Eski OpenAI araştırmacıları Daniel Kokotajlo ile Steven Adler, oturumda şirketlerin kendi kendilerini denetlemesini sorguladı. Kokotajlo, geliştiricilerin nasıl denetleyeceklerini bilmedikleri sistemler üzerinde çalıştığını savundu. Çalışanlara kamuya açık yorumlarını yumuşatmaları için baskı yapıldığını ve bazı şirket içi araştırmaların yayımlanmasının engellendiğini ileri sürdü. Adler, hükümetlerden şirketlerin topluma yüklediği riskler için daha açık sınırlar koymasını istedi. OpenAI’ın kurum içi anlayışının, 2024’ün sonlarında ayrılmasından bu yana değişmiş olabileceğini kabul etti.[2]
