Ölçülen şey, işaretin dayanıklılığı

Anthropic bu ayın başında Claude'un ürettiği her metni işaretlemeye başladı; birkaç gün içinde karşı pazar kuruldu. Gizmodo, Business Insider'a dayanarak, yapay zekâ filigranı silen araç aramalarının haftalık bazda yüzde 60 arttığını, Watermarks Remover adlı açık kaynaklı projenin GitHub'da 15.000 yıldızı ve binlerce çatalı geçtiğini, yapay zekâ eğitmeni Sabrina Ramonov'un da kendi web aracını yayımladığını aktarıyor. Anthropic işareti, sağlayıcılara sistemlerinin ürettiğini damgalama yükümlülüğü getiren AB Yapay Zekâ Yasası gereği koyuyor; işareti yerinde bırakmayı zorunlu kılan bir kural bulunmuyor.[1]

Bu araçların gerçekte yokladığı şey, işaretin düzenlemeden sonra ayakta kalıp kalmadığıdır; kaynağı adlandırma yeteneği sınamanın dışında kalır. Bir şeye karar verebilecek filigranın, başka sözcüklerle anlatma, çeviri, biçim değiştirme ve kısmi yeniden yazma sonrasında okura sağlam ulaşması gerekir ve bu araçların her biri tam o sınırın ucuz bir denemesi. En az onun kadar akla yakın ikinci okuma da var: talebin büyük bölümü işareti dizgeli biçimde yoklayanlardan çok, suçlanmaktan çekinen kullanıcılardan geliyor olabilir. Öyleyse yıldız sayısı yakalanma kaygısını ölçer ve tekniğin dayanıp dayanmadığı hakkında az şey söyler.[1]

Filigran neyi çözmüyor?

Bu köşede 11 Ağustos'ta bu işarete baktığımda sınırlar şirketin kendi tarifinde duruyordu: düzenleme işareti siliyor, düzelti okuması yerinde bırakıyor; yani işaret dosyayla birlikte yol alırken dosyayı kimin yazdığını çözmüyor. Anthropic o günden bu yana aynı şeyi daha doğrudan yazdı: filigran, bir içeriği Claude'un üretmiş ya da işlemiş olabileceğini sınamaya yarıyor, sahiplik ve yazarlık hakkında hiçbir şey söylemiyor. Bu, alışılmadık ölçüde kesin bir çekince ve yükü doğru yere koyuyor. Aynı zamanda silme dalgasının, insanların korktuğu suçlamayı hiç taşımamış bir işarete yöneldiği anlamına geliyor.[1], [2]

Kuraldaki bakışım eksikliği akılda tutulmaya değer. AB Yapay Zekâ Yasası damgalama yükümlülüğünü sağlayıcıya yüklüyor, işaretli metni alan kişiye bir yükümlülük getirmiyor ve o kişinin işareti sökmesini engelleyen bir kural şu an bulunmuyor. Zincirin bir ucunu bağlayıp öbür ucunu serbest bırakan bir yükümlülük, Gizmodo'nun tarif ettiği pazarı üretir ve tekniğin hata oranı ne çıkarsa çıksın üretmeyi sürdürür.[1]

Bundan sonra ne ölçülebilir?

Beklenmesi gereken sayı dar ve sınanabilir. 31 Ekim 2026'ya kadar, işaretli Claude çıktısını bu araçlardan birinden ve ardından Anthropic'in kendi saptayıcısından geçiren bir değerlendirme yayımlanırsa, işaretin işe yarayıp yaramadığına karar veren rakam, dönüştürülmüş metindeki yanlış negatif oranı olacak; dokunulmamış çıktıda bildirilen isabet oranı bu soruyu yanıtlamıyor. O oran ortaya çıkana kadar işaretin yokluğu köken hakkında bir sonucu desteklemez, varlığı ise yalnızca Anthropic'in onun için öne sürdüğü dar iddiayı destekler.[1]