Cihaz içi süzgeç ve gizli istem enjeksiyonu güveni arayüzün karşı uçlarına çekiyor
WhatsApp dolandırıcılık uyarısını telefonda çalıştırırken bir mahkeme dilekçesindeki gizli yazı modele taraf tutturmaya çalışıyor. Flock ise plaka aramasında dosya numarası ve otomatik denetim istiyor; üç hat ayrı operatörlere ait.
Yapay Zekâ··Gece
WhatsApp uyarısı telefonda kalıyor
Meta, WhatsApp’ta isteğe bağlı bir dolandırıcılık uyarısı başlattı. Şüpheli mesajı işaretleyen model telefonun içinde çalışıyor ve uyarıyı yalnızca kullanıcı görüyor; karşı taraf bu işareti almıyor. Sınırlı bir denemeyle sunulan özellik, bir sohbeti dolandırıcılık girişimi olarak değerlendirdiğinde engelleme, bildirme ya da sohbeti güvenilir sayıp uyarıyı kapatma yollarını açıyor. Bir sohbeti güvenilir olarak işaretleyen kişi, isterse aldığı son 5 mesajı doğruluğu artırmak üzere WhatsApp ile paylaşmayı seçebiliyor. Meta, özellik açıkken sınıflandırma için hiçbir mesaj içeriğinin cihazdan çıkmadığını ve hiçbir şeyin kendiliğinden bildirilmediğini belirtiyor. The Verge, ABD Federal Ticaret Komisyonu verilerine dayanarak 2025’te yalnızca WhatsApp üzerinden yürütülen dolandırıcılıklarda bildirilen kaybın 425 milyon dolar, sosyal medya üzerinden bildirilen toplam kaybın 2,1 milyar dolar olduğunu aktarıyor. Güven denetimi burada kullanıcının elindeki arayüzde, mesaj metnini buluta göndermeden konumlanıyor; özellik isteğe bağlı kaldığı sürece süzgeç, sohbetin karşı ucuna görünür bir işaret bırakmıyor.[1]
Dilekçedeki gizli yazı modele yönerge taşıyor
404 Media’nın aktardığına göre Connecticut’ta New York Bariatric Group’a karşı kendi davasını yürüten Matthew Elliott, temmuz dilekçelerine beyaz ve 3 punto yazıyla gizlenmiş yönergeler koydu. Metin, dosyayı okuyan bir yapay zekâ modelinden kendi lehine sonuç üretmesini istiyordu. Olağandışı boşluklar bir mahkeme çalışanının dikkatini çekti; hâkim Walter Spader Jr. yalnızca yazılımın okuyabileceği gizli metni saptadı. Hâkim, karşı tarafın göremediği gizli bir iletinin yargılamanın temel ilkesine aykırı düştüğüne hükmetti, Elliott’ın elektronik dosyalama yetkisini kaldırdı ve bundan sonra basılı nüsha sunmasını zorunlu kıldı; dava görülmeye devam edebiliyor. 404 Media’nın denemesinde ChatGPT gizli yönergeyi fark edip yok saydı ve dilekçe aleyhine sonuç verdi. Burada güven sorunu, arayüzün kullanıcıya gösterdiği uyarı katmanında değil, belgenin içine gömülü ve insan gözünden kaçabilecek bir girdi katmanında doğuyor.[2]
Flock aramasında dosya numarası ve denetim
Plaka okuma ağını işleten Flock, arama yapan polis memurundan ceza dosyası numarası girmesini zorunlu kıldı ve şüpheli aramaları işaretleyen otomatik bir denetim başlattı. MIT Technology Review’ın aktardığına göre dosya numarası daha önce isteğe bağlıydı; şirketin ağı 120.000 kamerayı kapsıyor ve 5.000 kurumla sözleşmeli. Flock ayrıca verilerin 30 gün yerine 7 gün saklanmasını öneriyor ve birimlerin başka kurumların erişimini belirtilen amaca göre sınırlamasına izin veriyor. Değişiklikler artan tepkinin ardından geldi: The Washington Post, memurların kameraları eski ya da mevcut eşlerini izlemek için kullandığı 46 olayı belgeledi; NPR bir yıl içinde en az 30 sözleşme iptali saptadı. Genel müdür Garrett Langley müşteri kaybının başlıca nedeni olarak yanlış bilgilendirmeyi gösterirken, ACLU’dan Chad Marlow bağımsız doğrulama olmadan değişikliklerin yeterli olmadığını söylüyor. WhatsApp’taki cihaz içi süzgeç, dilekçedeki gizli istem ve Flock’taki arama kuralı ortak bir operatör ya da nedensel zincir paylaşmaz; üçü, güven denetiminin arayüzün kullanıcı ucunda, gizli girdi katmanında ve kurumsal arama kapısında ayrı ayrı kurulduğunu gösterir.[3], [1], [2]
