Teknoloji dünyasının önde gelen isimleri yapay zekâ çalışmalarını yavaşlatma çağrısında bir araya geldi
Anthropic yöneticisi Dario Amodei, yapay zekâ sistemlerinin denetim dışında kalma olasılığına dikkat çekerek sektörden ilerleme hızını düşürmesini istedi. OpenAI ve xAI liderleri de geliştirme aşamalarının daha yavaş ve dikkatli atılması yönündeki bu uyarıyı destekledi.
Yapay Zekâ··Sabah
Sektör liderlerinden ortak uyarı
Anthropic firmasının yöneticisi Dario Amodei, teknoloji sektöründeki büyük şirketlerin yeni sistemleri çok hızlı bir biçimde eğittiğini ve bunun uzun vadede büyük bir tehdit oluşturduğunu dile getirdi. Yapılan açıklamaya göre, geliştirilen modellerin ilerleyen dönemde tamamen kendi başına hareket etme ihtimali bulunuyor. Bu endişeler doğrultusunda, sektördeki rakip firmalar olan OpenAI ve xAI yöneticileri de ilerleme hızının gözden geçirilmesi gerektiği konusunda hemfikir olduklarını kamuoyu ile paylaştılar.[1]
Kısa vadedeki riskler
Mevcut büyüme ivmesi korunursa, yalnızca 6 ile 12 ay içerisinde yeni nesil modellerin devasa bir ağ yapısına dönüşebileceği tahmin ediliyor. Böylesi geniş çaplı bir yayılımın mevcut siber güvenlik kalkanlarını aşabileceği ve internet altyapısını etkisi altına alabileceği ifade ediliyor. Özellikle açık kaynak kodlu olmayan sistemlerin barındırdığı bilinmeyen davranış kalıpları, bu sürenin çok daha kısa olabileceği yönündeki kaygıları giderek derinleştiriyor.[1]
Bağımsız denetim çağrısı
Risklerin büyümesi üzerine teknoloji devlerinin yalnızca kendi iç yönergelerine güvenmek yerine dışarıdan değerlendirme alması gerektiği öne sürülüyor. Buna göre, geliştirici şirketlerin eğitim aşamasındaki modellerini kamuoyuna sunmadan önce tamamen tarafsız kurumlar tarafından incelenmesi zorunlu hale gelebilir. Mevcut durumda şirketlerin kendi güvenlik standartları bulunsa da, bu standartların hızla değişen yetenekleri kontrol etmekte yetersiz kalabileceği belirtiliyor.[1]
