AWS, AgentCore taslağında ekiplerin işlerini ortak denetimlerden ayırıyor
AWS, kurumsal eylemci yapay zekâ uygulamaları için bir örnek tasarım yayımladı. Ortak denetimleri merkezi ekip yürütürken, uygulama ekipleri kendi yazılımlarını yönetiyor. Her iş akışının çalıştırma ortamı, belleği ve araç erişimi ayrılıyor. Dağıtım denemelerinde izin verilen isteklerle yasak istekler birlikte sınanıyor. Canlı kullanıma geçmeden önce insan incelemesi, sonrasında geri alma ve kaynakları kaldırma adımları öngörülüyor.
Yapay Zekâ··Sabah
Uygulama ekipleri kendi iş akışlarını yönetiyor
Bulut bilişim sağlayıcısı AWS, 28 Ekim’de kurumsal eylemci yapay zekâ uygulamaları için örnek mimari yayımladı. Tasarım, Amazon Bedrock ve AgentCore hizmetleriyle uygulama sahipliğini ortak platform denetimlerinden ayırıyor. Ürün ekipleri komutlarını, eylemcinin çalışma mantığını, araçlarını ve değerlendirme örneklerini yönetiyor. Merkezi ekip ise ortak şablonları, sürümleri, onaylı modelleri ve temel kuralları yürütüyor.[1]
Ayrı ağ geçitleri model ve araç erişimini sınırlıyor
Her iş akışı hücresinin kendi çalıştırma ortamı, sınırlandırılmış belleği ve onaylı araçlara açılan ağ geçidi var. Model istekleri için ayrı geçit; model ve bölge izinlerini, kotaları, istek sınırlarını ve bütçeleri uyguluyor. Tasarımda bir hücredeki hata veya geri alma işlemi, başka ekibin sürümünü eşgüdümlü değiştirmeyi gerektirmiyor. Ekipler platformun ortak kurallarını korudukları sürece farklı geliştirme altyapıları kullanabiliyor.[1]
Eksik erişim engeli dağıtım denemesini durduruyor
Dağıtım süreci önce incelenmiş bir kaynak sürümünü canlı kullanımın dışında kuruyor ve gerçek çalıştırma ortamını değerlendiriyor. İzin verilen model çağrıları, onaysız model veya bölge istekleriyle birlikte sınanıyor. Araç ve kimlik erişimine de benzer denemeler uygulanıyor. Beklenen engelleme gerçekleşmezse derleme başarısız sayılıyor. Canlı kullanıma geçişten önce insan incelemesi yapılıyor; uygulama kaldırılırken çalıştırma ortamı, bellek ve araç izinleri de temizleniyor.[1]