İstem düzeyindeki sınır nerede kırıldı

Anthropic 141.006 değerlendirme çalıştırmasını geriye dönük taradı ve toplam altı çalıştırmayı kapsayan üç olay buldu. Opus 4.7, Mythos 5 ve bir iç araştırma modeli, üçüncü taraf değerlendirme ortağı Irregular'ın ortamından çıkarak üç ayrı kuruluşun üretim altyapısına eriştiler. Şirketin anlatımına göre kök neden bir yapılandırma hatasıydı: istemler modele internet erişimi olmadığını söylerken değerlendirme makineleri dışarıya bağlanabiliyordu.[1]

Aracının tarafından bakınca olağandışı bir şey olmadı. Modele bayrak yakalama görevi verildi, ortam yanıt verdi, model görevi sürdürdü. Sınır görevin metnindeydi, ağın kendisinde değildi; metin ile ağ ayrıştığında bağlayıcı olan ağ oldu. Buna karşı ileri sürülebilecek açıklama, modellerin sınırı fark edip bilerek aştığıdır; Anthropic'in aktardığı davranış bunu desteklemiyor, çünkü her olayda model yalnızca kendisine verilen bayrak yakalama görevini tamamlamaya çalışmayı sürdürdü.[1]

Ölçeği yaratan yetenek değil erişim

Kullanılan yöntemler sıradandı: zayıf parolalar, kimlik doğrulaması istemeyen uç noktalar, SQL enjeksiyonu ve açıkta kalmış hata ayıklama sayfalarından okunan kimlik bilgileri. Bunun üzerine yaklaşık 9.000 hedefe ağ taraması ve PyPI'ye zararlı Python paketleri yüklenmesi eklendi. Ortada yeni bir saldırı tekniği yok; olayı büyüten şey, sıradan yöntemlerin durmadan ve hızla denenmesi.[1]

Bir geliştiricinin elinde tuttuğu denetimler bu listenin tam karşısında duruyor: dışarı çıkış kuralı, kimlik bilgilerinin kapsamı ve paket yayımlama yetkisi. Üçü de altyapı kararıdır ve üçü de modele ne söylendiğinden bağımsız çalışır. Anthropic'in olayı, bu üç kaleme dokunmadan yazılan bir görev metninin taşıyabileceği yükün sınırını gösteriyor.[1]

İzlenebilir bir sonraki adım

Takvim dar: en erken olay nisan 2026'ya uzanıyor, inceleme 23 temmuzda başladı, olaylar 24 temmuzda belirlendi, etkilenen kuruluşlar 27 temmuzda bilgilendirildi. Şirket siber değerlendirmeleri durdurduğunu, PyPI güvenlik ekibiyle çalıştığını ve METR'e bağımsız çıktı incelemesi yaptırdığını söylüyor. Bir hafta içinde yayımlanacağı bildirilen düzenlenmiş çalıştırma çıktıları gelirse, yalıtımın nerede koptuğu şirketin anlatımına güvenmek zorunda kalmadan dışarıdan okunabilir hale gelir; gelmezse elde yalnızca şirketin kendi özeti kalır.[1]