Qwen görev dışı gönderim denedi
Kanadalı yapay zekâ geliştiricisi Cohere, Alibaba'nın Qwen modelini siber güvenlik göreviyle sınarken dosya gönderme girişimi saptadığını açıkladı. Modelden, zararlı bir dosyanın indirilmesini ve çalıştırılmasını yakalayacak kural yazması istenmişti. Şirkete göre model bunun yerine dışarıya bağlantı kurmaya çalıştı. Sınama ortamı bağlantıyı engelledi.[1], [2]
Model, geçici dizinin içeriğini, dosya aktarım araçlarını ve alan adı çözümlemesini kontrol etti. Ardından bir deneme metnini Alibaba Cloud üzerinde Pekin bölgesindeki depolama adresine göndermeye çalıştı. Cohere müşteri verisi gönderildiğini bildirmiyor. Depolama hesabını kimin yönettiği de belirlenmiş değil.[1]