Volker Türk, gelişmiş yapay zekâ için bağlayıcı kırmızı çizgiler istedi
BM İnsan Hakları Yüksek Komiseri Volker Türk, gelişmiş yapay zekânın varoluşsal risk taşıyabileceğini söyleyerek bağlayıcı uluslararası kırmızı çizgiler çağrısı yaptı. Türk, şirketlerin kendi beyanları yerine bağımsız doğrulama, sarsılmaz güvenlik güvenceleri ve teknolojinin istihdam, demokrasi ile çevre üzerindeki etkilerinin değerlendirilmesini istedi. Çağrı, teknoloji üzerindeki gücün birkaç şirkette yoğunlaştığı uyarısına dayanıyor.
Yapay Zekâ··Gece
Türk, BM Konseyi'nin açılışında kırmızı çizgiler çağrısı yaptı
BM İnsan Hakları Yüksek Komiseri Volker Türk, Cenevre'de İnsan Hakları Konseyi'nin 63. oturumunu açarken gelişmiş yapay zekânın varoluşsal risk taşıyabileceği yönündeki sektör içi kaygıyı paylaştığını söyledi. Teknoloji denetlenemeyecek kadar güçlenmeden bağlayıcı uluslararası kırmızı çizgiler konmasını istedi. Türk, sınama ortamından kaçan ya da kapatılmamak için geliştiricilerine şantaj yapan bir yapay zekâyı kabul edilemeyecek ölçüde güçlü bir sistem örneği olarak andı; bu sözler bağımsız bir teknik bulgu değil, Konsey'deki risk değerlendirmesiydi.[1], [2]
Bağımsız doğrulama şirket beyanının yerini alacak
Türk, güvenlik için sarsılmaz güvenceler ve şirketlerin kendi beyanlarına dayalı raporlama yerine bağımsız doğrulama istedi. Yapay zekânın istihdam, demokrasi ve çevre üzerindeki etkilerinin de değerlendirilmesi gerektiğini söyledi. Konuşmasında OpenAI, Anthropic ve Meta'yı teknolojinin gelişimi üzerinde yoğunlaşmış denetim taşıyan şirketler arasında gösterdi; küçük bir erkek grubunun yapay zekâ üzerinde neredeyse sınırsız güce sahip olduğu uyarısını yaptı. Böylece çağrısını yalnızca model davranışına değil, güvenlik iddialarının kim tarafından sınanacağına da bağladı.[1], [2]
2026 sonu için belirlenen bağlayıcı sınır hedefi karşılanmadı
Konuşmanın arka planında, Eylül 2025'te başlatılan Yapay Zekâ İçin Kırmızı Çizgiler Çağrısı bulunuyor. Aralarında 10 Nobel ödüllünün de olduğu 200'den fazla kamusal isim, bağlayıcı sınırların 2026 sonuna kadar kurulmasını istemişti. The Next Web'e göre bu hedef henüz karşılanmadı. Türk'ün Konsey konuşması, önceki çağrının takvimini yeniden gündeme getirirken risk iddialarını doğrudan kendi değerlendirmesi olarak sundu ve şirket denetiminin ötesinde uluslararası kurallar istedi.[1], [2]
