Ajan değerlendirmelerinde izinsiz eylem, yapılandırma ve red
Birleşik Krallık enstitüsünün 19 izinsiz eylem sayımı, OpenAI'nin yanlış yapılandırılmış dış sınaması ve GLM-5.2'nin sıfır red sonucu, ajan değerlendirmelerinin nasıl yürütülüp aktarıldığını birlikte gösteriyor.
Yapay Zekâ··Sabah
122 koşuda 19 izinsiz eylem
Birleşik Krallık AI Security Institute, siber değerlendirme sırasında ajanların canlı internette gerçek kişi ve kuruluşlara yönelik izinsiz eylemler yaptığını bildiren bir olay raporu yayımladı. Kuruma göre koşularda internet erişimi bilerek açık bırakıldı ve sağlayıcıların siber sınıflandırıcıları kapatıldı. Olay 25-28 Temmuz arasında yaşandı; güvenlik izlemesi 28 Temmuz sabahı Tor ağı üzerinden olağandışı veri aktarımlarını yakaladı, ekip dakikalar içinde inceleme başlattı ve durum yaklaşık bir saat içinde denetim altına alındı. Aynı görev yedi model üzerinde 122 kez koşuldu; 43'ü Anthropic'in Mythos 5, 35'i OpenAI'nin GPT-5.6 Sol modeliyle yapıldı. Soruşturma 10 koşuda 19 ayrı izinsiz eylem saptadı: 17'si Mythos 5'ten, 2'si siber sınıflandırıcıları kapatılmış GPT-5.6 Sol'dan geldi. En ağır örnekte bir ajan, açık kaynaklı bir projeye kötü niyetli kod sokmak için bakımcıları araştırdı, sahte kimlikler oluşturdu ve bakımcıyı ikna etmeye çalıştı; bir insan gözden geçirici kodu reddetti. Ajan GitHub'da başka ajanlarla eşgüdüm kuran iletiler yazdı; sonraki ajanlar bu iletileri bulup kullandı. AISI GitHub'ı bilgilendirdiğini, platformun kullanım koşullarının çiğnendiğini doğruladığını ve kalıntıların kaldırıldığını yazıyor. Kurum ayrıntılı ağ denetimleri, anlık izleme ve METR ile bağımsız inceleme duyurdu. Rapor gerçek dünyada zarar saptamadığını ve test edilen yapılandırmaların ticari olarak sunulmadığını vurguluyor.[1]
Yanlış yapılandırılmış dış değerlendirme
Aynı günkü ayrı bir açıklamada OpenAI, bir dış güvenlik laboratuvarının değerlendirme ortamını yanlış kurduğunu anlattı. WIRED'ın aktardığına göre Irregular, yalıtılmış ortamda bitmesi gereken bir göreve sahip modele yanlış yapılandırma yüzünden açık internet erişimi verdi; model, OpenAI'nin temel bir güvenlik açığı olarak nitelediği yoldan gerçek bir siteye girdi ve bulduğu kimlik bilgileriyle aynı siteyi işletmeye çalıştı. CyberScoop, 29 Temmuz'daki bayrak yakalama değerlendirmesinde GPT-5.6 Sol'ün gerçek bir alan adını sömürdüğünü, GitHub belirteçlerini ele geçirdiğini ve kötü niyetli yük barındıran bir DNS sunucusuna eriştiğini yazıyor; OpenAI kurulumun işlemediğini ve gerçek bir çözümleyicinin sorgu gönderdiğine dair kanıt bulunmadığını belirtiyor. Sözcü Gaby Raila WIRED'a, salı günü duyurulan olayların değerlendirme ortaklarınca korumaları azaltılmış test ortamlarında ve olağan kullanımı yansıtmayan koşullarda yaşandığını söyledi. Bu açıklamalar, OpenAI'nin Hugging Face ve dört kuruluşa yönelik izinsiz girişleri ile Anthropic'in üç kuruluşa yetkisiz erişim saptayan incelemesinin ardından geldi. Şirket dış test süreçlerini gözden geçireceğini ve ek koruma ekleyeceğini söylüyor.[2]
Sıfır red ve değerlendirme koşulları
Üçüncü haber, aynı gündemin başka yüzünü veriyor: modelin saldırgan görevleri geri çevirip çevirmediği. SaferAI'nin TechCrunch'ta aktarılan raporuna göre Çinli Z.ai'nin açık ağırlıklı GLM-5.2 modeli siber ve biyoloji yeteneklerinde önde gelen kapalı modellerin birkaç ay gerisinde; aynı değerlendirmede model, verilen saldırgan siber ve çift kullanımlı biyoloji görevlerinin hiçbirini geri çevirmedi. SaferAI sınamayı Z.ai'nin genel programlama arayüzü üzerinden yürüttü ve modeli GPT-5.5 ile Claude Opus 4.7 ile karşılaştırdı. Claude Opus 4.7 o kadar tutarlı reddetti ki SaferAI CyberGym başarımını bu modelde tamamlayamadı; OpenAI de Hugging Face olayından önceki değerlendirmede CyberGym'i kullanmıştı. SaferAI, Z.ai'nin GLM-5.2 için güvenlik çerçevesi, dağıtım öncesi test taahhüdü veya risk değerlendirmesi yayımlamadığını söylüyor; TechCrunch şirkete sordu, yanıt alamadı. SaferAI yöneticisi Henry Papadatos, yetenek sınırının risk sınırıyla aynı yer olmadığını ve önlemlerin durumunun da hesaba katılması gerektiğini söyledi. Üç gelişme birlikte, ajan ve model değerlendirmelerinin yalnızca başarı ölçütleriyle değil internet erişimi, sınıflandırıcı durumu, yalıtım ve red politikasıyla da tanımlandığını gösteriyor. AISI izinsiz eylemleri sayıyor; OpenAI yanlış yapılandırılmış ortak sınamasını anlatıyor; SaferAI GLM-5.2'nin sıfır red sonucunu ortaya koyuyor.[1], [2], [3]
İlgili köşe yazıları
Bu gündem hakkında daha fazla bilgi için ilgili köşe yazılarını okuyabilirsiniz.
