Eigen RadarYapay Zekâ
Arşiv
Analiz

Muse talimatları kullanıcının çevresindeki kişilere profil oluşturulmasını istiyor

WIRED'ın haberine göre Meta'nın Muse asistanının talimatları, kullanıcının çevresindeki kişiler için sayfalar oluşturulmasını ve yenilenmesini istiyor. Araştırmacı Karan Joshi dosyaları olağan sohbet yoluyla elde etti. Saatlik güncellemeler tarif eden talimatlar, ayrıntı uydurmak yerine eldeki bilgiye dayanılmasını şart koşuyor. Meta, kullanıcıların belleği silebildiğini ve hizmet bağlantılarını kesebildiğini söylüyor. Araştırmacılar ise çıkarımlarla oluşturulan bilgiler ve bağlanan hesapların kapsamı konusunda uyarıyor. Meta'ya göre her kullanıcıya başka ajanların ulaşamadığı ayrı bir sanal makine ayrılıyor.

Yapay Zekâ··Öğle
Leylak tişörtlü, uzun siyah at kuyruklu kadın koltukta yan kenarı görünen telefon tutuyor; yuvarlak masada iki kupa, karşıda boş berjer var.

Asistandan kişisel ilişkileri hatırlaması isteniyor

Meta'nın Muse asistanına, kullanıcının çevresindeki kişiler hakkında sayfalar tutması söyleniyor. Aile üyeleri, partnerler, arkadaşlar, iş arkadaşları ve takip edilen kişiler bu kapsamda yer alıyor. Saatlik bir işlem, başlangıçta çok az bilgi içerebilen sayfaları zamanla doldurmak için veri derliyor. WIRED'a göre bu sayfalarda olgular, ilişkinin geçmişi, ortak ilgi alanları ve tamamlanmamış konuşmalar için bölümler yer alabiliyor. Talimatlar, ayrıntı uydurmak yerine bilinmeyenleri boş bırakmayı tercih ediyor.[1]

Bellekte doğum günleri, birlikte yaşanan olaylar, ortak ilgi alanları ve tamamlanmamış konuşmalar bulunabiliyor. Bu bilgiler, ilişkiyi sürdürmeye yönelik önerilerde veya bir arkadaşın tercihlerine göre buluşma planlamada kullanılabiliyor. Talimatlar eldeki bilgiye dayanılmasını istiyor; bilinmeyen ayrıntıları uydurmak yerine boş bırakmayı tercih ediyor.[1]

Meta silme ve onay denetimlerini açıklıyor

Meta sözcüsü Daniel Roberts, yararlı bir asistanın yararlı olabilmesi için kullanıcıyı ve ilişkilerini tanıması gerektiğini söylüyor. Şirkete göre Muse, kamuya açık bilgilerle kullanıcının paylaşmayı seçtiği içerikleri kullanıyor. Her kullanıcıya başka ajanların ulaşamadığı ayrı bir sanal makine ayrılıyor. Bellek silinebiliyor, dış hizmetlere bağlantı kesilebiliyor. Meta, e-posta gönderme ve alışveriş için insan onayı gerektiğini, bir işlem günlüğünün de yapılanları ve planları gösterdiğini belirtiyor.[1]

Araştırmacılar çıkarımla oluşturulan bilgilerin kapsamını sorguluyor

Oxford Üniversitesi'nden Carissa Véliz, sistemlerin doğrudan paylaşılan verilerle yetinmeyip doğru da yanlış da olabilen çıkarımları kullanabildiği uyarısını yapıyor. Demokrasi ve Teknoloji Merkezi'nden Miranda Bogen ise daha çok hizmeti bağlama yönündeki teşvikin, şirketlerin kullanıcı hakkında bildiklerini genişletebileceğine dikkat çekiyor. Yapay zekâ güvenliği alanında bağımsız çalışan Karan Joshi, olağan sohbet sırasında Muse'dan kendi yazılım dosyalarını istemiş ve elde ettiklerini WIRED'a vermişti. Meta, dosyaların şeffaflık amacıyla erişilebilir tutulduğunu söylüyor.[1]

Kaynakça

  1. Haber kaynağıWIREDWIRED, Muse’un yakın çevre için profil derleme talimatlarını inceledi↩1↩2↩3↩4
YZ güvenliği ve regülasyonÇip savaşları ve tedarik zinciriSınır modeli yarışı

Aynı masadan diğer analizler

Yapay Zekâ masasındaki tüm Gündem analizlerini görüntüle →