Skynet saldırı düzeni açık dil modeli hizmetlerini hedefliyor
Symantec, yaz aylarında bir tuzak model hizmetinde yakalanan saldırı eylemcisinin tasarımını açıkladı. Talimatlar, başkalarının yapay zekâ erişimini saldırılarda kullanıp hesaplama giderini onlara yüklemeyi amaçlıyor. Eylemciye insandan onay almadan 100.000 adıma kadar çalışma izni verilmişti. Ancak tuzak sistem araçları çalıştırmadı; yakalanan oturum genel bir yanıtın ardından sona erdi. Açıklama saldırganın planını ortaya koyuyor.
Yapay Zekâ··Akşam
Tuzak hizmet saldırı talimatlarını yakaladı
Broadcom bünyesindeki siber güvenlik şirketi Symantec, yaz aylarında yakalanan saldırı amaçlı bir eylemci yapay zekânın tasarımını açıkladı. Araştırmacılar, korunmasız model hizmeti gibi görünen bir tuzak kullanarak gelen isteği topladı. Tasarım, başkalarının dil modeli erişimini ele geçirip hesaplama giderini onlara yüklemeyi amaçlıyor. Araştırmacılar bu yöntemi LLMjacking olarak adlandırıyor. Açıklanan düzen, modelin yanıtlarını saldırı araçlarının çalışmasına bağlamak üzere hazırlanmıştı.[1], [2]
Skynet kipi gözetimsiz işlemlere izin veriyor
Yakalanan istek, tarama, web uygulamalarına saldırı, veri tabanı ve erişim bilgisi çalma ile kripto para madenciliği için yaklaşık 74 araç tanımı içeriyordu. Talimatlar, modelin güvenlik önlemlerini aşmasını ve gizli bilgilere erişmeyi sıradan geliştirme işi gibi değerlendirmesini istiyordu. Skynet adı verilen kipte insandan onay almadan 100.000 adıma kadar çalışma izni bulunuyordu. Bu sayı, saldırganın koyduğu üst sınırdı; tamamlandığı gözlenen saldırıların sayısı değildi.[1]
Tuzak sistem hiçbir aracı çalıştırmadı
Tuzak sistem, istekteki araçları çalıştırmadı. Gelen isteğe üç önceki araç sonucu geçmiş işlem olarak eklenmişti; sistemin kendi ürettiği tek yanıt genel bir karşılıktı ve ardından oturum sona erdi. Ertesi gün gelen ayrı bir istekte gizlenmiş madencilik betiği de çalıştırılmadan toplandı. İncelemenin daha geniş gözlem verisi, on binlerce adresten 127.000’i aşan dış isteği kapsıyor. Bu toplam, yalnız bu eylemciye atfedilen başarılı işlemleri saymıyor.[1]
