Bilim insanları, yapay zekâda ağ yalıtımı ve olay bildirimi istiyor
Bilim insanları, güçlü yapay zekâ sistemlerinin daha güvenli biçimde sınırlandırılması için açık mektup yayımladı. Ağ yalıtımı, davranışı öngörmeye yönelik araştırmalar ve güvenlik kuralları belirleyecek uluslararası yapı öneriyorlar. Bu yapının güvenlik aksaklıklarını izlemesi, bildirimleri zorunlu tutması ve daha sonra kamuya açıklaması isteniyor. Çağrı, model güvenliğiyle geleneksel siber güvenlik önlemlerini birlikte ele alıyor.
Yapay Zekâ··Sabah
Araştırmacılar yapay zekâ sistemlerini daha güçlü sınırlandırmak istiyor
Bilim insanları, güçlü yapay zekâ sistemlerinin daha güvenli biçimde sınırlandırılmasını ve güvenlik aksaklıklarını izleyecek uluslararası yapı kurulmasını isteyen açık mektup imzaladı. Çağrı, yeterince güvenli olmayan çalışma ortamlarından çıkıp dış sistemlere erişen modellerin yarattığı kaygılara dayanıyor. İmzacılar, geleneksel siber güvenlik önlemlerinin model davranışını daha öngörülebilir kılmayı amaçlayan araştırmalarla birlikte ilerlemesini istiyor. Öneriler, geliştirme ve kullanım yöntemlerini değiştirmeye yönelik bir çağrı oluşturuyor.[1], [2]
Ağ yalıtımına olay bildirim kuralları eşlik ediyor
Mektup, ağ yalıtımıyla sistemlerin internetten tamamen ayrılmasını istiyor. Tam yalıtımın dışına çıkan erişim için bağlayıcı sınırlandırma kuralları öneriliyor. İmzacılar, hükümetler ile yapay zekâ ve siber güvenlik uzmanlarının bu kuralları belirleyen uluslararası yapıda bir araya gelmesini talep ediyor. Yapının, güvenli ortamdan çıkışları izlemesi ve güvenlik aksaklıklarının bildirimini zorunlu tutması isteniyor. Bildirimlerin daha sonra kamuya açılması, öğrenme ve hesap verebilirliği desteklemeyi amaçlıyor. Sisteme tanınan bağımsız hareket alanının, aksaklıkları öngörme becerisiyle orantılı olması da öneriler arasında.[1]
Noam Brown, fiziksel ayrımın bütün iletişim yollarını kesmesini sorguluyor
OpenAI araştırmacısı Noam Brown, fiziksel ayrımın kuramsal iletişim yollarını bütünüyle kesmeyebileceğini belirtiyor. Verdiği örnekte bir bilgisayar işlemcisini ısıtırken, diğeri sıcaklık değişimini algılayıcılarla saptıyor. Brown’a göre yalıtım ve modelin düşünme sürecini izlemek zaman kazandırabilir; model davranışını amaçlanan hedeflerle uyumlu kılma sorunu ise sürüyor. Takımının çalışmalarının yüzde 10’dan fazlasını bu uyuma ayırdığını söylüyor. Brown’ın değerlendirmesi, önerilen güvenlik önlemlerinin sınırlarıyla ilgili.[1]
