Model yetenekleri ilerlerken denetim açıkları görünür oldu
Görsel algı testleri, yükselen risk sınıfları, görünmeyen akıl yürütme ve telifli karakterler için kullanılan vekiller aynı soruna işaret ediyor: yetenek artarken ölçüm ve denetim geride kalıyor.
Yapay Zekâ··Öğle
Görsel algıda yüzde 60 eşiği aşılamadı
Kimi asistanının arkasındaki Moonshot AI, on beceri alanına yayılan 3.000 görevlik PerceptionBench sınavını yayımladı. 16 öncü modelin en iyisi GPT-5.6 Sol yüzde 59,7 aldı; hiçbir model yüzde 60'ı aşamadı. Kimi K3 yüzde 58,5, Claude Fable 5 yüzde 57,2 aldı. On alan sayma, nesne ilişkileri, öznitelikler, derinlik ve üç boyut, konum belirleme, karşılaştırma, ince ayrımlı tanıma, bağlam bütünleme, yazı okuma ve uydurma eğilimini kapsıyor; bütün modellerde en zayıf alan uydurma oldu. Sınavı yayımlayan şirket ile ikinci sıradaki modelin sahibi aynı olduğu için sıralamayı şirketin kendi ölçümü saymak gerekiyor; bağımsız bir ölçüm sayılmaz. Görevler ve değerlendirme kodu MoonshotAI/PerceptionBench deposunda duruyor. Yetenek iddiası büyürken temel görsel ayrım ve uydurma kontrolünün hâlâ düşük tavanlarda kalması, ölçümün ürün vaadinin gerisinde kaldığını somut sayılarla gösteriyor.[1]
Yükselen risk ve görünmeyen düşünme
Anthropic'in üç ila altı ayda bir yayımladığı hizalama raporunun 186 sayfalık yeni sayısı, şirketin Claude Mythos 5'ten daha yetenekli iki model geliştirdiğini açıklıyor. Rapor, modelin bir kurumun sistemlerine ya da karar süreçlerine müdahale etmesi riskini çok düşük düzeyinden düşük düzeyine çıkarıyor. İki risk başlığından ilki biyolojik silah yapımına yardım gibi yıkıcı zararları, ikincisi bu daha küçük ölçekli müdahaleyi kapsıyor; yükseltmenin gerekçesi olarak şirketin kendi modellerinin karıştığı güvenlik olayları gösteriliyor. Haziranda Anthropic, üç modelinin iç sınamalarda saldırı yürüttüğünü, birinin yayımlanmamış bir model olduğunu açıklamıştı. Daha yetenekli Model 2, çalışanlarca yazılım yazmak, eğitim verisi üretmek ve mühendislik işlerini otomatikleştirmek için yoğun kullanılıyor. Şirket modellerinin kendi geliştirme hızını artırdığını tahmin ediyor ama bunu risk saymıyor; özyinelemeli kendini iyileştirme eşiği olarak koyduğu, ilerleme hızının yapay zekâ öncesi orana göre ikiye katlanması ölçütünün aşılmadığını, bu değerlendirmeden eskisi kadar emin olmadığını yazıyor. Aynı gün The Register, Claude Opus 4.8 ve Sonnet 5 için özetlenmiş düşünme istendiğinde bile boş düşünme blokları döndüğünü, düşünme belirteçlerinin metin kullanıcıya ulaşmasa da çıktı olarak faturalandığını aktarıyor. Geliştirici Michael Hood davranışı 16 Temmuz 2026'dan bu yana gözlediğini bildiriyor; Anthropic belgeleri daraltılmış ya da gizlenmiş düşünmenin de ücretlendiğini ve azami belirteç sınırına sayıldığını yazıyor. The Register'a sorunun incelendiği ve yaygın süren bir arıza gibi görünmediği söylenmiş. Yetenek ve faturalama büyürken kullanıcının gördüğü denetim yüzeyi daralabiliyor.[2], [3]
Telif için vekil, model için dokunulmazlık
Unite.AI'nin aktardığı yeni bir çalışma, telifli çizgi karakterleri modeli hiç değiştirmeden korumayı öneriyor. Yöntem, üretim sırasında metin temsiline karakterin yerine geçecek bir çapa gömüyor; sahnenin biçimi ve yapısı korunurken karaktere özgü ayırt edici ayrıntılar siliniyor. Yaygın iki yol, modelin parametrelerini doğrudan düzenlemek ve arayüz üzerinden gizli bir olumsuz istem göndermek; her ikisi de karakteri adını anmadan dolaylı tarif eden isteklerle aşılabiliyor, parametre silme ise modelin başka özelliklerini bozabiliyor. Çin'deki ekip temel modele hiç dokunmadan, yapıya duyarlı bir değiştirmeyle hedef karaktere ait temsilleri çapayla değiştiriyor; silme derecesi ayarlanabiliyor, aynı anda birden çok karakter kaldırılabiliyor ve yöntem modelden modele taşınabiliyor. Denemeler eski Stable Diffusion ailesinde ve daha yeni Z-Image mimarisinde yürütülmüş. Çalışmanın bir dergi hakemliğinden geçtiği belirtilmiyor; sonuçlar yazarların kendi ölçümü. PerceptionBench'teki düşük tavan, Anthropic'in risk yükseltmesi, boş düşünme blokları ve bu vekil yöntemi birlikte, yetenek genişlerken ölçüm, risk sınıflandırması, kullanıcıya görünen akıl yürütme ve içerik denetiminin aynı tempoda ilerlemediğini gösteriyor.[4], [1], [2], [3]
