Yapay zekâyı görünür kılmak: gizli akıl yürütme, kimlik rozetleri ve sahte insanlık
Üç haber, yapay zekânın model içindeki izlerinden müzik sayfalarındaki kimliklere ve tıbbi araştırma hizmetlerindeki insanlık iddialarına kadar farklı görünürlük sorunlarını ortaya koyuyor.
Yapay Zekâ··Akşam
Gizli akıl yürütmenin bıraktığı iz
WIRED'ın aktardığı çalışmada Tübingen Üniversitesi, Max Planck Enstitüsü, MATS Research ve Snyk'ten araştırmacılar, Claude, GPT ve Gemini'nin kullanıcı makinesine şifreli gönderdiği akıl yürütmeyi aynı model ailesinin daha küçük bir sürümüne vererek okunabilir çıktı elde etti. Araştırmacılara göre küçük sürüm daha az hizalama eğitimi aldığı için isteği daha seyrek reddediyor. Yöntem, belirli istemlerde Kimi K3 çıktısı ile Claude Opus 4.8 ve GPT 5.6 Sol'un gizli akıl yürütmesi arasında çarpıcı benzerlikler de gösterdi; ekip bunu olası bir damıtma işareti olarak yorumladı, ancak nedensel bağ kuramadığını açıkça belirtti. DeepSeek ve Thinking Machines'in Inkling modeli aynı benzerliği göstermedi. Araştırmacılar ayrıca kullanıcının makinesinden alınan akıl yürütmeye gömülmüş API anahtarları ile parolaları geri çıkarabildi. Bu özel sızıntı kapatıldı; OpenAI, Anthropic ve Google bilgilendirildikten sonra API'lerinde değişiklik yaptı. Anthropic kısa süreli önlemler geliştirdiğini söylerken çalışmanın şirket altyapısına erişmediğini vurguladı. Bulgular, görünmeyen model işlemlerinin bütünüyle izsiz kalmadığını, fakat benzerliğin tek başına eğitim verisinin nereden geldiğini kanıtlamadığını gösteriyor.[1]
Spotify etiketi üretim yöntemini değil kimliği hedefliyor
TechCrunch'ın haberine göre Spotify, gerçekçi görünen yapay zekâ üretimi bir kimlikle sunulan sanatçı sayfalarına AI Persona rozeti ekleyecek. Rozet profil üzerinde, arama sonuçlarında ve parça satırlarında görünecek; bu sayfaların müzikleri varsayılan olarak editoryal, algoritmik ve kişiselleştirilmiş önerilere alınmayacak. Dinleyiciler yine de sayfayı takip edebilecek ve yeni yayımları alabilecek. Kendi beyanı 11 Ağustos'ta açıldı, etiketlerin Eylül ortasında görünmesi planlanıyor. Sanatçı yanlış olduğunu düşündüğü etikete itiraz edebilecek, dinleyici de etiketsiz bir yapay zekâ kimliğini bildirebilecek. Spotify'ın çizdiği sınır, müzikte ne kadar yapay zekâ kullanıldığına değil, profilin gerçek bir insanı temsil edip etmediğine dayanıyor. Bu nedenle düzenleme, yapıtın üretim zincirini bütünüyle açıklayan bir içerik etiketi değil; platformdaki kimliğin niteliğini ve öneri sistemindeki dağıtımını birlikte yöneten bir profil kuralı. Şirket, sanatçıların kendilerini sunma biçiminde yaratıcı seçim hakkı bulunduğunu söylerken programlamasının müzikte kariyer kuran gerçek sanatçıları öne çıkarmaya odaklandığını belirtiyor.[2]
İnsanlık iddiası doğrulanamadığında
404 Media'nın incelediği Research Gold ise tıp araştırmacılarına makale yazımı, sistematik derleme ve meta-analiz satarken yüzde 100 insan yazımı ve yapay zekâ kullanılmadığı sözü veriyor. Habere göre sitede doktoralı denetçi ve yöntembilimci olarak gösterilen sekiz kişinin profil fotoğrafları yapay zekâ üretimi; adlarına bağlı doğrulanabilir yayın veya çevrimiçi iz bulunamadı. Sitede adı ve fotoğrafı kullanılan gerçek araştırmacılar kimliklerinin izinsiz alındığını söyledi. Fotoğraflardan biri LinkedIn'deki iş arama şeridini bile taşıyordu. Telefon, e-posta ve sohbet desteğinin verdiği yanıtlar da yapay zekâ üretimi çıktı; Sarah adını kullanan bir asistan gerçek kişi olduğunu ve hizmetin baştan sona insan uzmanlığına dayandığını savundu. Şirket tam sistematik derleme için 1.900 dolar istiyor; yayın öncesinde söz verdiği açıklamayı göndermedi. Üç olay aynı teknik denetimi anlatmıyor: biri model içi izleri araştırma yöntemiyle çıkarıyor, biri platform kimliğine görünür bir kural koyuyor, biri de ticari insanlık iddiasını haber incelemesiyle sınıyor. Ortak nokta, yapay zekâ kullanımına ilişkin beyanın tek başına yeterli olmaması; görünürlük ancak teknik işaret, platform işlemi veya bağımsız doğrulama gibi ayrı bir mekanizmayla kuruluyor.[1], [2], [3]
