Cisco, yapay zekâ eylemcilerinin oturum boyunca yaptığı işlemleri inceleyen Quarry projesini açık kaynak olarak yayımladı. Araç çağrılarıyla sonuçlarını birlikte değerlendiren kurallar, tek başına izinli görünen adımların oluşturduğu şüpheli örüntüleri arıyor. Güvenlik ekipleri her bulgunun hangi adımlara dayandığını görebiliyor. Kuralların uygulamaya alınmasında insan incelemesi öneriliyor; tekil işlemler için yetki denetimi ayrıca sürüyor.
Cisco, 28 Ekim’de yapay zekâ eylemcilerinin davranışlarını inceleyen Project Quarry adlı açık kaynak kural dilini ve çalıştırma motorunu yayımladı. Güvenlik kuralları, konuşmaları, araç çağrılarını ve sonuçlarını oturum boyunca ilişkilendirebiliyor. Hassas bir dosyanın okunmasının ardından dışarıya ağ isteği gönderilmesi, izlenen örüntülere örnek. İşlemlerin ayrı ayrı izinli olması, birlikte oluşturdukları davranışın incelenmesini gereksiz kılmıyor.[1], [2]
Kurallar, doğrudan metin eşleştirmeyi istem saldırısı sınıflandırıcıları ve dil modeli değerlendirmeleriyle birleştirebiliyor. Quarry, kullanılan aracın adı ve girdileri gibi bilgileri koruyor; eşleşmeye yol açan adımları, ilgili alanı ve kısa bir metin parçasını bulguyla birlikte döndürüyor. Yaygın gizli bilgi biçimleri bu parçada maskeleniyor. Görseller de uzman çözümleyiciler aracılığıyla işaret sağlayabiliyor. Bulguyu alan uygulama, uyarı verme, işlemi engelleme veya kayda alma gibi yanıtları belirliyor.[1]
Yayımlanan pakette derleyici, komut satırı tarayıcısı, Python geliştirme kitaplığı, belgeler ve örnek kurallar bulunuyor. Dosyalar yüklenirken derleniyor; böylece bozuk kural tarama başlamadan hata veriyor. Önerilen sınama düzeni, eşleşmesi beklenen konuşmayı temiz bir örnekle birlikte denetliyor. Cisco, kurallar uygulanmadan önce insan incelemesini öneriyor. Tekil işlemler için yetki denetimi sürüyor. Şirket, geçmiş saldırılara ilişkin örnekleri Quarry ile o olayların verileri üzerinde sınamadığını açıkça belirtiyor.[1]
