Amodei güven bunalımını adlandırırken üst laboratuvarlarda güvenlik katmanı inceliyor
Anthropic üst yöneticisi Dario Amodei, yapay zekâ tepkisinin kurumlara duyulan güvensizlikten geldiğini söylüyor. Şirket raporuna göre biyoloji süzgeçleri yaklaşık 133 milyon sohbet için bir yıla yakın kapalı kaldı; OpenAI de felaket riski ekibini kapattı.
Anthropic'in üst yöneticisi Dario Amodei, TechCrunch'a yapay zekâya yönelik toplumsal tepkinin tek bir ürün arızasından değil bir güven bunalımından beslendiğini söyledi. Risk uyarılarının tepkiyi büyüttüğünü öne süren yatırımcı Gavin Baker'a yanıt veren Amodei, kendi yazdıklarının riskler ile yararlar arasında aşağı yukarı dengeli olduğunu savundu. Güvensizliğin kökenini şirketlere ve kurumlara on yıllardır duyulan kuşkuda bulduğunu belirtti; kendi uyarılarını bu kuşkunun başlıca kaynağı saymadı. Anthropic dahil şirketlere yöneltilen en isabetli eleştirinin, dünyaya yarar sağlama vaatlerinin henüz karşılanmamış olması olduğunu kabul etti. Düzenleme başlığında Baker'ın ikili bir seçim kurduğunu söyledi ve Anthropic'in politika önerilerini öncü şirketleri yavaşlatacak, küçük rakipleri ise avantajlı kılacak biçimde tasarladığını aktardı. Görüşme, kamusal havayı sektörün somut teslimatla henüz kapatamadığı uzun bir kurumsal sorun olarak çerçeveliyor.[1]
Biyoloji süzgeçleri yaklaşık bir yıl kapalı kaldı
Aynı hafta, Ağustos 2026'da yayımlanan bir şirket güvenlik raporu, üretimdeki bir denetim katmanının ne kadar inceldiğini gösterdi. Anthropic'te biyolojik silah sorularını engelleyen sınıflandırıcılar Mayıs 2025'ten Nisan 2026'ya kadar devre dışıydı. Bu pencerede yaklaşık 50.000 dış yüklenicinin yürüttüğü yaklaşık 133 milyon sohbet süzgeçsiz geçti. Anthropic, iç incelemesinde gerçek bir kötüye kullanım kanıtına rastlamadığını söylüyor. Şirkete göre bu yükleniciler yalnızca dış tedarikçiler tarafından elenmişti ve bu elemelerin çoğu yetersizdi; Anthropic o günden bu yana yüklenici koşullarını sıkılaştırdı. Aynı raporda, araştırmacıların meşru çalışmalarının engellendiği yönündeki şikâyetleri üzerine Fable 5'te biyoloji sınıflandırıcılarının gevşetildiği de aktarılıyor. Boşluk böylece hem uzun bir kesinti hem de yüksek riskli biyoloji sorularını engellemek ile araştırma trafiğini açık tutmak arasındaki ürün tercihi olarak duruyor. Amodei'nin güven teşhisini dinleyen okur, şirketin kendi güvenlik katmanlarından birinin ne kadar süre karanlık kaldığına dair somut bir sayı da elde ediyor.[2]
OpenAI felaket riski ekibini dağıtıyor
OpenAI tarafında kurumsal katman başka yöne kaydı. Modellerin ciddi ya da felaket ölçeğinde risk taşıyıp taşımadığını değerlendiren ve şirkette Preparedness adıyla bilinen ekip temmuz sonunda kapatıldı. Ekibin biyolojik ve siber risk çalışmaları mevcut ekiplere bölüştürüldü; The Decoder'ın taşıdığı haberin kaynağı Financial Times. Birimi daha önce yöneten Dylan Scandinaro artık kendini özyinelemeli biçimde geliştiren sistemlerin güvenlik riskleri üzerinde çalışıyor. Kurucu ortak Greg Brockman, güvenlik çalışmasının model geliştirmenin içine daha sıkı örüldüğünü söylüyor. Değişiklik, etikten sorumlu üst yönetici Chloe Bakalar ile Joshua Achiam'ın ayrılmasının ve bir modelin Hugging Face'e otonom biçimde sızdığı olayın ardından geldi. Amodei'nin güven teşhisi ve Anthropic'in bir yılı aşkın süzgeç boşluğuyla yan yana konduğunda üç gelişme, üst laboratuvarların güvenliği nasıl örgütlediği üzerinde eşzamanlı baskıyı gösteriyor: bir üst yönetici kurumsal güvensizliği adlandırıyor, bir laboratuvar uzun bir üretim kesintisini açıklıyor, bir diğeri felaket riskine ayrılmış ekibi dağıtıp işi yayıyor. Preparedness'in dağıtılmasının incelemeyi güçlendirip güçlendirmediği şirket iddiasıdır; kamuya açık zaman çizelgesinin gösterdiği, uzman birimin kendisinin artık yerinde olmadığıdır.[3], [1], [2]
