İşaret nereye kadar gidiyor?

Anthropic'in pazartesi günkü açıklamasına göre yeni Claude modelleri ürettikleri metne okurun göremeyeceği bir filigran gömüyor. Business Insider'ın aktardığı biçimiyle işaret metnin anlamını ve okunurluğunu değiştirmiyor, kopyalanıp yapıştırıldığında metinle birlikte taşınıyor ve bir ölçüde düzeltmeye dayanabiliyor. 2 Ağustos'ta ve sonrasında çıkan modeller bu desteği ilk günden taşıyor, daha eski modeller için çalışma sürüyor. İşaretleme, Claude bulut sağlayıcıları üzerinden kullanıldığında da geçerli.[1]

Aynı açıklama sınırları da sayıyor. Yoğun düzeltme, başka sözcüklerle yazma, çeviri ya da Claude çıktısını başka metinle karıştırma filigranı saptanamaz hale getirebiliyor. Bulunan bir filigran ise metni Claude'un yazdığını göstermiyor, çünkü yalnızca son okuma ya da çeviri için kullanılan bir model de iz bırakabiliyor. Şirket üçüncü taraflara saptama araçları vereceğini söylüyor; bu araçların ayrıntısı henüz yayımlanmadı.[1]

Bir işaret hangi soruyu yanıtlıyor?

Bu masada iki ayrı soru var: metin nereye gidiyor ve metni kim yazdı. Filigran birincisini izlenebilir kılıyor. 6 Ağustos'ta Suno'nun duyurduğu işaretleme için de aynı ayrımı yazmıştım: işaret bir parçanın platformdan çıktıktan sonraki dolaşımını yönetiyor, parçanın neyden yapıldığı sorusunu açık bırakıyor. Anthropic'in açıklaması bu kez ikinci sorunun neden açık kaldığını şirketin kendi ağzından veriyor; son okuma da iz bırakıyorsa, işaretin varlığı yazarlığı belirlemiyor.[1], [3]

Bir saptama düzeneğinin ne kadar işe yaradığını, hangi metin kümesinde denendiği, eşiğin nerede durduğu ve yanlış pozitif ile yanlış negatif oranları belirler. Açıklamada bu sayıların hiçbiri yok. Bu eksiklik dışarıdan yapılabilecek denetimi sınırlıyor; iddia aktarılabiliyor ama sınanamıyor. En güçlü karşı açıklama da elimizde: metin bir haber özeti ve şirket ayrıntılı teknik belgelendirmeyi ilerisi için söz veriyor, dolayısıyla sayıların bulunmaması şimdilik yalnızca henüz yayımlanmamış olmalarını gösteriyor olabilir.[1]

Ağırlıklar açıldığında zincir nerede kopuyor?

Aynı gün Meta, 30 milyar parametreli Muse Glimmer modelinin ağırlıklarını Apache 2.0 lisansıyla yayımladı. Duyuru modeli, bulut bağlantısı olmadan tek tüketici ekran kartıyla bir Mac veya bilgisayarda çalışan sürekli açık eylemciler için tanımlıyor ve yaklaşık 4 bitlik nicemleme ile modelin 20 gigabayt altına indiğini söylüyor. Metin eğitimi, nicemlemeyi ve dağıtımı ayrıntılı anlatıyor, içerik işaretlemesinden söz etmiyor.[2]

Model düzeyinde uygulanan Anthropic taahhüdü, modeli işleten kim varsa onu bağlıyor. Ağırlıkları indirilip kendi makinesinde çalıştırılan Muse Glimmer gibi bir modelde böyle bir işleten yok; işaretin dağıtıma dayanıp dayanmadığı sorusu da böylece iki uçlu bir soruya dönüşüyor. Sınanabilir olan şu: söz verilen saptama belgelendirmesini Anthropic 31 Ekim 2026'ya kadar yayımlar ve içinde değerlendirme kümesini, eşiği ve hata oranlarını verirse, filigranın yazarlık sorusuna ne kadar yaklaştığı ölçülebilir hale gelir. Belgelendirme çıkmazsa elde dolaşımı yöneten bir araç kalır ve kaynağı belirleme iddiası sınanmamış kalmayı sürdürür.[1], [2]