Bilim insanları yapay zekâ salgını ile laboratuvar riskinin üst sırayı hak edip etmediğinde bölündü
WIRED, birçok bilim insanının yapay zekâ salgınını kontrolsüz yapay zekâ yok oluş yollarının altına koyduğunu, yeni viral genom tasarımı ve Anthropic biyolojik silah raporlarını da aktardığını yazdı. THE DECODER, 42 Royal Society üyesinin çift haneli varoluş riski kestirimlerinin hype sayılmaması gerektiğini uyardı.
Yapay Zekâ··Gece
Salgın senaryosu bir listede altta
WIRED'in 18 Eylül derlemesi, birçok bilim insanının salgınla yok oluş senaryosunu kontrolsüz yapay zekâ tehditlerinin altına koyduğunu yazdı. Institute of Foundation Models'den David Bellamy, yapay zekâyı kökten yeni bir biyolojik silah tehdidi görmediğini, onlarca yıllık çift kullanım ikilemine ve açık dergilerin protokol erişimini genişletmesine işaret etti. Yazı yine de Stanford ve Arc Institute'in geçen ay yapay zekânın yeni viral genom tasarlayabildiğini gösterdiğini ve Anthropic'in Claude'un biyolojik silaha destek verebilecek kullanımlarını bildirdiğini anlatıyor. WIRED sıralamayı yeni bir deneme değil bir derleme olarak sunuyor ve görüş birliği iddia etmiyor.[1]
Kırk iki matematikçi hype etiketini reddediyor
THE DECODER, 18 Eylül'de 42 matematik üyesinin Royal Society başkanına, laboratuvarların yüzde 10 üstü varoluş riski kestirimlerinin hype sayılmaması gerektiğini yazdığını aktardı. Metinde adı geçen imzacılar arasında Fields madalyalı Martin Hairer, Peter Scholze ve Wendelin Werner var; hiçbiri bir yapay zekâ şirketine bağlı değil. Mektup, önde gelen OpenAI ve Anthropic modellerinin açık araştırma sorunlarını, Millennium problemlerinden birini de çözdüğünü savunuyor ve siber güvenlik, özerk silahlar ve biyolojik etmenlerde aynı değişim temposunun varsayılabileceğini uyarıyor. THE DECODER metni yeni bir ölçüm değil politika çağrısı sayıyor.[2]
Aynı hafta, zıt vurgular
WIRED, yapay zekâ biyolojik silahlarının yok oluş listesinin tepesinde olup olmadığına yönelik şüpheyi öne çıkarırken virolojide tasarım yeteneğini de belgeliyor. THE DECODER, çift haneli varoluş riski kestirimlerinin şimdi politika dikkati hak ettiğini söyleyen matematikçileri öne çıkarıyor. Her iki çıkış da 18 Eylül'de yayımlandı ve sınır model ilerlemesine atıf yapıyor; yine de farklı arıza kiplerini vurguluyor: tanıdık çift kullanımlı biyoloji ile alanlar arası hızlanma. Hiçbir sayfa ortak bir sıralama tablosu sunmuyor; kart, düşürülen salgın korkusu ile yükseltilen kurumsal uyarı arasındaki gerilimi taşıyor.[1], [2]
