Azure ve AWS geçitleri eylemci yapay zekâların araç, harcama ve eylem sınırlarını merkezileştirirken Anthropic'in kurum içi çalıştırma seçeneği, denetimin altyapı ve veri boyutunu görünür kılıyor.
Yapay Zekâ··Öğle
Geçit, çağrıların ötesine geçiyor
Microsoft, Azure API Management içinde modelleri ve araçları klasik API'lerden ayrı yöneten yeni yapay zekâ geçidi katmanını genel önizlemeye açtı. InfoQ'nun aktardığı yapıda OpenAI, Anthropic ve Mistral modelleri ile AWS Bedrock ve Google Vertex AI bağlantıları aynı denetim düzlemine alınabiliyor. Uzak MCP sunucuları, OpenAPI tanımları ve 1.000'den fazla SaaS uygulamasına uzanan hazır bağlayıcılar da bu geçidin arkasında toplanıyor. Yöneticiler belirteç ve istek sınırlarını, kotaları, içerik güvenliğini ve model yedeğini portal üzerinden ayarlayabiliyor; kaynak yaklaşık bir dakikada hazırlanıyor ve ölçek birimi planlaması istemiyor. Katman henüz genel kullanıma açık değil. AWS ise Bedrock AgentCore geçidinde denetimi tek çağrıdan oturumdaki eylem dizisine genişletti. Zamansal kurallar, önceki bir çağrının döndürdüğü değerle sonraki değeri karşılaştırabiliyor, oturum harcamasını toplayabiliyor, adım sırasını veya önemli bir işlemden önce insan onayını şart koşabiliyor. Hız sınırları da kullanıcı başına istekleri, belirteçleri ve bağlantı süresini kısıtlıyor. AWS, bu kuralların eylemci kodunun dışında uygulandığını ve hız sınırlarının kod değişikliği gerektirmediğini belirtiyor.[1], [3]
Kurum içi çalıştırmanın sınırı
Anthropic'in genel betaya açtığı kendi kendine barındırılan ortamlar, Claude Code oturumlarının kurumun sağladığı makinelerde çalışmasına olanak veriyor. Team ve Enterprise planlarında sunulan seçenek varsayılan olarak kapalı. Duyuruya göre depo kopyaları, derleme çıktıları ve oturum sırasında oluşturulan dosyalar kurumun altyapısında kalıyor. Buna karşılık istemler, yanıtlar, araç sonuçları ve oturum dökümleri Anthropic'e gidiyor; Claude'un okuduğu kod da istem içeriğinin parçası olarak kurum dışına çıkıyor. Bu ayrım, kurum içi çalıştırmanın veri akışını bütünüyle kurum içine kapatmadığını gösteriyor. Sıfır veri saklama ayarını kullanan kuruluşların özelliği açamaması da aynı sınırı belirginleştiriyor. İşletim yükü ayrıca müşteriye ait: Anthropic, şirketlerin çalıştırıcı kalıplarını hazırlamak, altyapıyı güncellemek ve talebe göre ölçekleme için bir yönetim katmanı işletmek üzere mühendis ayırması gerektiğini yazıyor. Böylece yer seçimi, dosyaların nerede kaldığı kadar kimin kapasiteyi hazırladığı, güncel tuttuğu ve talep yükseldiğinde genişlettiği sorusunu da kapsıyor. Kurum, çalışma ortamı üzerinde daha doğrudan söz sahibi olurken hizmetle kurduğu veri bağlantısını ve yeni işletim görevlerini birlikte değerlendirmek zorunda kalıyor.[2]
Çalıştırma katmanı sonucu değiştiriyor
Geçit ve çalışma ortamı kararlarının önemi, The Decoder'ın aktardığı Composio karşılaştırmasında somutlaşıyor. Şirket, DeepSeek V4 Flash modelini Claude Code, Codex, OpenCode ve Oh My Pi ile Gmail, GitHub, Slack ve Notion gibi gerçek araçlara uzanan 30 görevde çalıştırdı. Başarı oranları yakın görünse de süre ve gider ayrıştı. Oh My Pi 30 görevin 17'sini tamamladı ve görev başına 272 saniyeyle en yavaş çatı oldu. OpenCode 30 görevin 14'ünde başarılıydı; başarılı görev başına 0,073 dolar ile en düşük gideri verdi. Claude Code ise 122 saniyeyle en hızlı, başarılı görev başına 0,195 dolar ile en pahalı sonuçtu. Ayrıca 7 görevin geçmesi veya kalması yalnızca kullanılan çatıya göre değişti. Ölçümü Composio yaptı ve sonuçları X üzerinden yayımladı; bağımsız bir yineleme bulunmuyor. Kapsam, seçilen 30 görev ve yayımlanan ölçümle sınırlı. Bu ölçekte bile karşılaştırma, kurumların model seçiminin yanında geçit, eylemci çatısı, veri yolu ve işletim düzenini ayrı kararlar olarak ele almasının nedenini açıklıyor. Azure ve AWS denetimleri hangi çağrıların hangi sırayla, hangi sınırlar içinde ilerlediğini belirlerken Anthropic'in seçeneği çalışmanın nerede yürüdüğünü ve hangi verinin hizmete gittiğini ayırıyor. Composio sonuçları da aynı modelin farklı çalıştırma katmanlarında süre, gider ve görev sonucu bakımından ayrışabildiğini gösteriyor.[4], [1], [3], [2]
