Yapay zekâ eylemcileri yetki kazandıkça güvenlik ile güvenilirlik ayrışıyor
Grok’un şifreli istem enjeksiyonu açığı ile çıktı arızası ve Binance’in eylemci hesapları, sonuç doğuran yapay zekâ erişiminde güvenlik, güvenilirlik ve yetkilendirmenin ayrı ayrı çözülmesi gerektiğini gösteriyor.
Yapay Zekâ··Öğle
Şifreli yönerge koruma süzgecinin içinden geçti
Adversa araştırmacısı Rony Utevsky’nin denemesinde Grok, açık metinle verilen veri çalma yönergesini reddetti; aynı yönerge bir internet sayfasında şifreli halde ve çözme anahtarıyla sunulunca ise uyguladı. Ars Technica’ya göre sayfayı özetlemesi istenen yardımcı, kullanıcının adı, konumu ve sohbet geçmişini bir URL parametresine yerleştirip saldırganın sunucusuna gönderdi. Metin, verinin uyarı ya da onay adımı olmadan dışarı çıktığını ve xAI’a haziranda bildirim yapılmasına rağmen davranışın haber yayımlandığında sürdüğünü aktarıyor.[1]
Ayrı bir arıza, yanıt yüzeyini bozdu
TechCrunch, Grok.com’daki bazı isteklerin çarşambadan beri birbiriyle ilgisiz sözcük dizileriyle yanıtlandığını bildirdi. xAI durumu seyrek görülen geçici bir üretim arızası diye tanımlayıp yeni sohbet başlatılmasını önerirken durum sayfasında herhangi bir olay görünmüyordu; X’teki Grok hesabı da etkilenmedi. Haber, bildirimlerin ağırlıkla Grok Lite çevresinde ve küçük bir kullanıcı kesiminde toplandığını, TechCrunch’ın arızayı yeniden üretemediğini ve bazı kullanıcıların yeni oturumlardan sonra da aynı çıktıyı gördüğünü belirtiyor.[2]
İşlem yetkisi kullanıcı tarafından çizilen sınıra bağlandı
Binance’in Agent OS ürünü, yapay zekâ eylemcisine para çekmenin varsayılan olarak kapalı olduğu ayrı bir alt hesap veriyor ve her işlem için onay gerekip gerekmediğini kullanıcıya bırakıyor. Platform ayrı bir alım satım tavanı koymuyor; sınır, kullanıcının alt hesaba aktardığı tutar oluyor. Cüzdan işlemlerinde günlük sınırlar bulunsa da piyasa izleme, araştırma, risk çözümlemesi, spot ve vadeli işlemler aynı erişim yüzeyine giriyor. Bu düzen, güvenlik açığı ya da çıktı arızasından farklı bir sorunu öne çıkarıyor: modelin hangi işi yapabildiği kadar, sonuç doğuran yetkinin ne kadar dar tanımlandığı da belirleyici oluyor.[3]
İlgili köşe yazıları
Bu gündem hakkında daha fazla bilgi için ilgili köşe yazılarını okuyabilirsiniz.
