New York Belediye Meclisi yapay zekâ güvenliği oturumunu başlattı
New York Belediye Meclisi, Anthropic, OpenAI, Google ve Meta temsilcilerinin katıldığı yapay zekâ denetim oturumunu başlattı. Meclis, güvenliğe ilişkin 10 tasarıyı değerlendiriyor. Meclis Başkanı Julie Menin, önerilen kapatma mekanizmasının nasıl işleyeceğini şirketlere sormak istediklerini söyledi. SpaceX’in katılmayı reddetmesi üzerine hukuki yola başvurulduğunu belirtti. Kapatma mekanizması, kabul edilmiş bir kural olarak değil, tasarıların bir parçası olarak tartışılıyor.
Yapay Zekâ··Gece
Meclis şirket temsilcilerini dinliyor
New York Belediye Meclisi, 5 Ekim’de yapay zekâ konusunda denetim oturumunu başlattı. Anthropic, OpenAI, Google ve Meta temsilcileri oturuma katılıyor. Meclis, teknoloji şirketlerinin yapay zekâ güvenliğine ilişkin açıklamalarını dinliyor. Şirket temsilcilerinin yanında ihbarcılar da söz alarak giderek daha yetenekli sistemlerin geliştirilmesi ve denetlenmesi konusundaki kaygılarını aktarıyor. Böylece oturum, şirketlerin kendi çalışmalarına ilişkin açıklamalarının yanı sıra bu çalışmalara yöneltilen eleştirileri de içeriyor.[1], [2]
Meclis Başkanı Julie Menin, federal hükümetin yapay zekâ şirketlerinin kendi kendilerini düzenlemesine alan bıraktığını ve bu nedenle kentin harekete geçmesi gerektiğini söyledi. Meclis, yapay zekâyla ilgili 10 tasarıyı değerlendiriyor. Menin’in açıklaması, oturumun toplanması ve yerel düzenleme hazırlanması için gösterdiği gerekçeyi anlatıyor. Tasarılar hâlen değerlendirme aşamasında bulunuyor; bu oturumla kabul edilerek yürürlüğe girmiş önlemler olarak aktarılmıyor.[1]
Kapatma mekanizması önerisi tartışılıyor
Sorulardan biri, yapay zekâ sistemini gerektiğinde kapatabilecek bir mekanizmaya ilişkin. Menin, New York eyaletinde ve California’da da tartışılan bu fikrin belediyenin değerlendirdiği tasarılarda bulunduğunu söyledi. Meclis üyeleri şirketlere mekanizmanın nasıl işleyeceğini ve etkili olup olmayacağını sormak istiyor. Önerinin tasarılarda yer alması, teknik işleyişinin veya etkisinin kanıtlandığı anlamına gelmiyor. Bunlar oturumda şirketlerden yanıt beklenen sorular arasında bulunuyor.[1]
Tanıklar arasında eski Anthropic çalışanı Jacob Coxon da bulunuyor. Coxon, sistemlerin insanların yürüttüğü araştırmaları yapabilecek ve kendi gelişimlerine katkıda bulunabilecek yeteneklere yaklaşması konusunda kaygısını dile getirdi. Açıklaması, gelişmekte olan yetenekler ve riskler hakkındaki kendi değerlendirmesini yansıtıyor. Tanığın görüşü, anlattığı bütün yeteneklerin bugün elde edildiğinin veya belirli bir gelecek sonucunun kesin olduğunun kanıtı olarak sunulmuyor. Meclis bu kaygıları şirketlerin güvenlik açıklamalarıyla birlikte dinliyor.[1]
SpaceX katılmayı reddetti
SpaceX oturuma katılmayacağını bildirdi. Menin’in aktardığına göre şirket, resmî çağrıya gönderdiği mektupla yanıt verdi; kentle çalışmak istediğini belirtmesine rağmen oturumda bulunmayı reddetti. Menin, bu yanıt üzerine meclisin hukuki yola başvurduğunu söyledi. Aktarılan hukuki adım, şirketin oturuma katılmamasıyla ilgili. Bu uyuşmazlık hakkında verilmiş nihai bir mahkeme kararı anlatılmıyor. Meclis Başkanı’nın açıklaması, katılım çağrısına verilen yanıtın ardından başlatılan süreci bildiriyor.[1]
OpenAI, oturum öncesinde gönderdiği mektupta tehlikeli yeteneklerin test edilmesini, güvenlik önlemlerinin güçlendirilmesini ve koruma mekanizmalarındaki başarısızlıkların izlenmesini anlattı. Meta da güvenliğin çalışmalarının merkezinde olduğunu belirtti. Bu açıklamalar, şirketlerin kendi güvenlik süreçlerine ilişkin beyanları olarak aktarılıyor. Meclisin düzenleme seçenekleri ve önerilen mekanizmalar hakkında şirketlere yönelttiği sorulara eşlik ediyor; bu soruların önceden çözülmüş olduğu anlamına gelmiyor. Oturumda şirketlerin anlattığı süreçler ile tanıkların kaygıları dinleniyor.[1]
