ABD ve yapay zekâ şirketleri gönüllü güvenlik denetimlerinde anlaştı
Trump ve büyük yapay zekâ şirketlerinin yöneticileri, 29 Eylül’de iç denetim, bağımsız dış değerlendirme ve yönetim kurulu incelemesi öngören gönüllü bir anlaşma imzaladı. Şirketler, sistemlerin izinsiz teknik erişimini önlemeye çalışacak. Bağlayıcı bir yasa ya da tamamlanmış bir kamu denetimi duyurulmadı; şirketler uygulama sorumluluğunu kendi bünyelerinde üstleniyor.
Yapay Zekâ··Sabah
Şirketler iç ve dış denetim sözü verdi
ABD Başkanı Donald Trump, 29 Eylül’de Beyaz Saray’da yapay zekâ şirketlerinin yöneticileriyle görüştükten sonra gönüllü bir güvenlik anlaşması imzalandığını açıkladı. OpenAI, Anthropic, Meta, Google ve NVIDIA yöneticileri toplantıdaydı. Şirketler, kendi sistemleri üzerinde güçlü iç denetimler kurmayı ve bunların işleyişini bağımsız bir dış değerlendiriciye inceletmeyi üstlendi. Şirketler bulguları yönetim kurullarına iletmeyi de üstleniyor. Anlaşma bir yasal yükümlülük olarak değil, katılımcıların gönüllü taahhüdü olarak duyuruldu.[1], [2]
Yönetim kurulları değerlendirmeleri inceleyecek
Anlaşma, her şirketin yönetim kurulunda iç ve dış değerlendirmelerin sonuçlarını ele alacak bir komite oluşturmasını öngörüyor. Ayrıca şirketlerin, yapay zekâ araçlarının teknik sistemlere amaçlanmayan biçimde erişmesini veya bu sistemleri ele geçirmesini önlemeye çalışması bekleniyor. Bu hükümler yalnızca modelin yanıt kalitesine değil, araç kullanırken yapabildiği eylemlere de yöneliyor. Dış değerlendirmenin yöntemine, bağımsızlık ölçütüne veya uygunsuzluk durumunda uygulanacak yaptırıma ilişkin tamamlanmış bir kamu denetimi ilan edilmedi.[1]
Yasa olasılığı açık, bugünkü düzen gönüllü
Katılımcılar, bu adımların ileride yasa veya düzenlemelere dönüştürülebileceğini belirtti. Trump da basın toplantısında yapay zekâ güvenliğini izleyecek on kişilik bir kurul düşündüğünü belirtti; kurulun üyeleri ve yetkileri açıklanmadı. Beyaz Saray’daki görüşme, ileri modellerin denetimi ve eylemcilerin izinsiz teknik işlemleri üzerine artan tartışmaların ardından geldi. Bugün değişen şey, şirketlerin denetim katmanlarına ilişkin ortak bir söz vermesi; devlet gözetiminin kapsamı ve gelecekteki yasal kurallar ayrı kararlar gerektiriyor.[1]
