Microsoft, şirket içindeki eylemcileri izleyen Guardian Agents’ı ekledi
Microsoft, Project Perception güvenlik ürününü şirketlerin kendi kullandıkları yapay zekâ eylemcilerini de izlemek üzere genişletiyor. Guardian Agents, verilere erişimi kısıtlayan ve görev sırasında izinleri ayarlayan denetimlere ekleniyor. Şirket, modellerin öngörülemeyen davranışları karşısında model sağlayıcısından ayrı gözetim gerektiğini savunuyor. Hassas iş sistemlerinde çalışan otomatik araçların kurallarını ve önemli kararlarını belirleme sorumluluğu insanlarda kalıyor.
Yapay Zekâ··Akşam
Guardian Agents, şirketin kullandığı araçları izliyor
Microsoft, kurumsal güvenlik ürünü Project Perception’a şirket içinde çalışan yapay zekâ eylemcilerini gözetecek Guardian Agents’ı ekledi. 19 Ekim duyurusu, haziranda tanıtılan sistemin kapsamını genişletiyor. Önceki düzende ayrı eylemci grupları saldırganları canlandırıyor, saldırıları belirleyip güvenlik açıklarını değerlendiriyor ve onarımlarla ilgileniyordu. Yeni kapsam, kuruluşun kendi seçtiği ve iş sistemlerine erişim izni verdiği yazılımları da içeriyor. Microsoft, bu araçları kurum içinden doğabilecek bir tehdit olarak ele alıyor. Şirketin değerlendirmesinde kasıtlı kötü davranış kadar, sonuçları öngörülemeyen davranışlar da yer tutuyor. Guardian Agents, insanların belirlediği sınırlar içinde bu etkinlikleri izlemek için tasarlandı. Kurallar ve onay gerektiren işlemler insanların denetiminde kalıyor.[1], [2]
İzinler yürütülen göreve göre değişiyor
Duyurulan diğer denetimler, eylemcinin ulaşabileceği verileri ve araçları kısıtlıyor; görev sırasında izinlerinin ayarlanmasını sağlıyor. Riskli kararlarda insan onayı istenebiliyor. Microsoft, güvenlik yazılımı Defender’a işyerindeki eylemcileri bulma işlevi de ekledi. Şirket, bu işlevin çalışanların kullandığı Claude Code, Codex ve OpenClaw dâhil 60’a kadar eylemci türünü belirleyebildiğini söylüyor. Araç bulma işlevi, kuruluşun içinde hangi yazılımların kullanıldığını ortaya çıkarmayı amaçlıyor. Erişim kısıtları ise bu yazılımların yapabileceği işlemleri belirliyor. Microsoft’un önerisi, bu denetimleri modelin kendisinin dışında konumlandırıyor. Şirket hesapları ve sistemleri üzerinden gerçekleştirilen işlemlerde sorumluluk kuruluşta kalıyor; model sağlayıcısının güvence vermesi bu sorumluluğu ortadan kaldırmıyor.[1]
Kuralları ve önemli kararları insanlar belirliyor
Microsoft’un yöneticisi Satya Nadella, modellerin sağladığı zekâ ile bu zekânın kullanımına karar verme yetkisinin ayrılmasını savunuyor. Güvenlik yöneticisi Hayete Gallot ise gelişmiş modelleri, kuruluşun yargılarını uygulamak yerine görev tamamlamak üzere eğitilmiş ve davranışları öngörülemeyen sistemler olarak nitelendiriyor. Açıklanan düzende insanlar kuralları, onay sınırlarını ve devredilebilecek işleri belirliyor. İşleyiş yönergeleri koruyucu adımları düzenlerken Guardian Agents değişen riski araştırabiliyor ve eylemciyi sınırlamayı önerebiliyor ya da uygulayabiliyor. Microsoft, izin verilen işlemlere en sonunda bağımsız sistemlerin karar vermesi gerektiğini belirtiyor. Bunlar şirketin açıkladığı güvenlik mekanizmaları ve çalışma ilkeleri; duyuru, ne ölçüde etkili olduklarına ilişkin bağımsız bir ölçüm sunmuyor.[1], [2]
