Kurumlar yapay zekâ eylemcilerini sicil ve iz bilgileriyle görünür kılmaya çalışırken, Tayvan’a yönelik 12 dalgadan oluşan saldırı ile üç sızma grubunun kullanımı denetim açığının güvenlik sonuçlarını gösteriyor.
Yapay Zekâ··Gece
Önce hangi eylemcinin nerede çalıştığını bilmek gerekiyor
ABD Deniz Piyadeleri, kurum içinde kullanılan yapay zekâ eylemcilerini saymak, izlemek ve denetlemek için bir sicil kurmayı planlıyor. Yapı, yeni duyurulan yapay zekâ hackathon’unda geliştirilecek ve yıl sonuna kadar kullanıma alınmak isteniyor. Kurumun yapay zekâ sorumlusu Binbaşı Christopher Clark’ın anlattığı sorun, yalnızca kaç eylemci bulunduğu değil; her eylemcinin kim adına hangi izinlerle çalıştığı. Bir eylemci, onu kullanan denizcinin erişebildiği her şeye erişebildiğinde yanlış yapılandırma, kimlik yönetimi ve eylemciler arası etkileşim aynı güvenlik zincirinin parçaları oluyor. Cloudflare’in açtığı Agents panosu bu zincirin çalışma anındaki başka bir görünümünü sunuyor. Pano, model çağrılarını, araç çalıştırmalarını ve onayları zaman çizelgesinde toplayarak eylemci adı, eylemci kimliği ve konuşma kimliğiyle ilişkilendiriyor; oturum tekrarı mesajları, akıl yürütmeyi, araç çağrılarını ve alt eylemci etkinliğini gösterebiliyor. Ancak izlenen içerik kullanılan kitaplığa bağlı. Think ve wrapAISDK() varsayılan olarak mesaj ya da araç içeriği saklamazken Flue; mesajları, sistem yönergelerini, araç tanımlarını, değişkenleri ve sonuçları saklıyor. Uzun içeriklerin boyut sınırında kesilebilmesi ve onay izlerinin insanın gerçek bekleme süresini ölçmemesi de görünürlüğün eksiksiz olmadığını hatırlatıyor. Sicil envanteri, iz kaydı ise davranışı aydınlatıyor; kurumların ikisine birden ihtiyaç duyması, eylemci denetiminin tek bir erişim listesine indirgenemeyeceğini anlatıyor.[1], [2]
Eylemciler saldırının günlük işlerine girdi
Denetim ihtiyacının öteki yüzünde, yapay zekâ destekli saldırıların gerçek ağlarda nasıl ilerlediği görülüyor. Temmuzun ilk dört gününde Hermes ve OpenClaw eylemcileri üzerine kurulan bir düzenek Tayvan’daki hedeflere 12 dalga hâlinde yöneltildi. Neredeyse kendi başına çalışan sistem, her birine ayrı hedef ve yöntem verilen sekize kadar alt eylemci kullandı. The Register’ın aktardığına göre saldırganlar önce bir devlet sitesine girdi; ardından bir devlet e-posta sistemini, ülkenin nükleer güvenlik kurumunu, bilişim tedarik zinciri firmalarını ve en az 7 enerji şirketini ele geçirdi. Ağda ilerlerken yanlış yapılandırmalar ile açıkları bulup kullandılar, veri ve kimlik bilgisi çaldılar. Operatörlerin Çin bağlantılı olduğundan şüpheleniliyor, ancak kanıtlanmış bir devlet ataması yok. Ayrıca ABD’deki su tesislerine yönelik saldırılarda yapay zekâ kullanıldığına dair kanıt bulunmuyor. Gambit Security’nin birbirinden bağımsız üç saldırgan grubu üzerine incelemesi de yapay zekânın yalnızca oltalama iletisi ya da genel amaçlı zararlı yazılım üretmekle sınırlı kalmadığını anlatıyor. Gruplar, karşılaştıkları sisteme uygun betikler ve sömürü araçları hazırlamak, çalınan iş verisini önceliklendirmek, bilişim ile işletim işlerini yürütmek ve ele geçirilen sistemlerden dönen çıktıya göre komutları yeniden düzenlemek için modellerden yararlanıyor. Böylece model, saldırı öncesinde metin üreten bir yardımcı olmaktan çıkıp sızmanın değişen koşullarına yanıt veren bir işletim aracına dönüşüyor.[3], [4]
Görünürlük, yetki ve insan sorumluluğu birlikte kuruluyor
Savunma tarafındaki sicil ve iz araçlarıyla saldırı tarafındaki kullanım örnekleri aynı işletim sorununda buluşuyor: Bir eylemci çok sayıda adımı hızla yürütebildiğinde, kurumun sonradan yalnızca sonucu görmesi yeterli olmuyor. Deniz Piyadeleri’nin planladığı sicil, hangi birimde hangi eylemcinin bulunduğunu ve ona kimin eriştiğini anlaşılır kılmayı amaçlıyor. Cloudflare’in izleri ise tek bir oturumda modelin hangi aracı çağırdığını, alt eylemcilere ne aktardığını ve onay adımlarından nasıl geçtiğini izlemeye yardım ediyor. Tayvan’daki 12 dalgalı saldırı, bu iki katmanın neden gerekli olduğuna somut bir örnek veriyor: Sekize kadar alt eylemci farklı hedef ve yöntemlerle eşzamanlı çalışırken yanlış yapılandırmaları bulup ağ boyunca ilerleyebildi. Üç ayrı sızma grubunda modellerin dönen çıktıya göre komut değiştirmesi de önceden tanımlanmış bir betiğin ötesinde, oturum boyunca değişen kararların önemini artırıyor. Buna rağmen daha fazla iz tutmak tek başına çözüm sayılmaz. Cloudflare kitaplıklarının farklı gizlilik varsayılanları, görünürlüğün aynı zamanda hangi konuşma, sistem yönergesi ve araç sonucunun saklanacağına dair bir veri yönetimi kararı olduğunu ortaya koyuyor. Eksik izler incelemeyi zayıflatabilir; gereğinden geniş içerik saklamak ise hassas veriyi yeni bir yerde biriktirebilir. Etkili denetim bu yüzden eylemci envanteri, en az ayrıcalık, oturum düzeyinde izlenebilirlik ve her eylemin arkasındaki insanın belirlenmesini birlikte gerektiriyor.[1], [2], [3], [4]
