SARA eylem kapısı kurarken oyun arşivi dil modeli yasağından sonra saldırıya uğradı
29 Ağustos'ta arXiv'de yayımlanan bir ön baskı, araç çıktısının eylem adlandırmaya başladığı anda eylemciyi ayıran SARA çerçevesini öneriyor; dört ana kurulumda saldırı başarısı yüzde 0,63'ü aşmadı. 2002'de kurulan The Cutting Room Floor ise dil modeli erişimini engellediği bir kullanıcıyı sorumlu tuttuğu bir hizmet engelleme saldırısıyla çevrimdışı kaldı. Biri önleyici yetkilendirme, diğeri reaktif site savunması üzerinden eylem erişimine karşı iki farklı cephe açıyor.
Yapay Zekâ··Öğle
SARA eylem önerisini yetkilendirmeden ayırıyor
29 Ağustos'ta arXiv'e yüklenen bir ön baskı, bir aracın çıktısının veri taşımayı bırakıp eylem adlandırmaya başladığı anı, eylemcinin yönlendirilebildiği nokta sayıyor. Yazarlar, bir eylemi neyin önerdiği sorusunu onu çalıştırmaya neyin yetkili olduğu sorusundan ayıran SARA'yı öneriyor; yetkilendirmeyi kullanıcının belirttiği amaca ve denetlenmiş kanıta bağlıyor. Bağlamdan yalıtılmış Action Probe, araç çıktısının eyleme yol açan bölümünü açığa çıkarıyor; No-History-Promotion kuralı önceki konuşmanın eyleme yetki hâline gelmesini engelliyor. AgentDojo ve AgentDyn başarım kümelerinde dört ana kurulumda saldırı başarısının yüzde 0,63'ü aşmadığı bildiriliyor. Çalışma arXiv'de yayımlanan ve hakem değerlendirmesinden geçmemiş bir ön baskı. Bildirilen bulgular yazarların kendi koşularına aittir ve çalışma hakem değerlendirmesinden geçmemiş bir ön baskı olarak sunuluyor.[1]
Oyun arşivi dil modeli engelinden sonra kapandı
2002'de kurulan oyun arşivi The Cutting Room Floor, bir hizmet engelleme saldırısının ardından çevrimdışı kaldı. Site, dil modeliyle gelen isteklere kendi hazırladığı MS Paint görüntülerini döndürmek gibi önlemler uyguluyordu ve Claude üzerinden siteye eriştiği için engellediği bir kullanıcıyı sorumlu tutuyor. Sitenin aktardığına göre engellenen kullanıcı, X'te barındırma sağlayıcısına şikâyet edeceğini ve alan adıyla işletenlerine bakacağını yazdı, ardından engeli aşıp kötüye kullanım bildirimleri gönderdi. Kurucu ortaklardan Xkeeper, doğrudan bir suçlamada bulunmadığını, yalnızca paylaşımın saldırıdan hemen önce geldiğini söylediğini belirtti. Bu, sitenin kendi değerlendirmesi; bağımsız bir doğrulaması yok. Bildirilen bulgular yazarların kendi koşularına aittir ve çalışma hakem değerlendirmesinden geçmemiş bir ön baskı olarak sunuluyor.[2]
Önleyici kapı ile reaktif duvar aynı sorunu farklı ölçekte görüyor
SARA, kurumsal eylemcilerin araç çıktısı üzerinden yönlendirilmesine karşı çalışma anında ikinci bir yetkilendirme katmanı öneriyor; ölçülen saldırı başarısı düşük kalsa da yazarların bildirdiği sayılar kendi koşularından geliyor. The Cutting Room Floor ise küçük bir gönüllü arşivin dil modeli trafiğini filtrelemeye çalışırken altyapı saldırısıyla karşılaştığını anlatıyor; site MS Paint görüntüleriyle yanıt vererek otomatik kazımayı yavaşlatmayı denemişti. İki örnek, eylem veya kazıma isteğinin nerede durdurulacağı sorusunu farklı katmanlarda soruyor: biri çıktıdaki eylem önerisinde, diğeri ağ kenarında. Okuyucu için somut gelişme, akademik çerçevenin yayımlanması ile arşivin çevrimdışı kalmasının aynı hafta gelmesi. Bildirilen bulgular yazarların kendi koşularına aittir ve çalışma hakem değerlendirmesinden geçmemiş bir ön baskı olarak sunuluyor.[1], [2]
