AWS, Anthropic ve Ramp, yapay zekâ yönetişimini ayrı ürün katmanına çeviriyor
Araç çağrısını tek kapıdan geçirmek, veriyi müşterinin bulutuna geri bırakmak ve modeli maliyet-günlük dengesiyle seçmek aynı yönetişim yarışının parçalarına dönüşüyor.
Yapay Zekâ··Gece
AWS araç çağrısını tek kapıdan geçirmek istiyor
AWS'nin AgentCore Gateway için çizdiği düzen, eylemcinin hangi aracı hangi yetkiyle çağırdığını tek uçta toplamayı hedefliyor. Şirketin dört aşamalı anlatımında bağlantı Cognito JWT ile doğrulanıyor, Cedar tabanlı rol ve öznitelik kuralları uygulanıyor, araçlar YAML bildirimleriyle kayıt defterine alınıyor ve giriş özel ağ ile bölgeler arası yedekliliğe taşınıyor. Buna eşlik eden Dogwood yazım katmanı da politika metnini doğal dilden kural haline getirmeyi vadediyor; AWS bunu zaman kısıtı gibi denetimlerin kurulmasını kolaylaştıran bir kullanım deneyimi farkı olarak sunuyor. Sonuçta yönetişim, ürünün çağrı akışına doğrudan yerleşen bir kapı olarak paketleniyor.[1], [2]
Anthropic veriyi müşterinin bulutuna geri taşıyor
Anthropic tarafında değişen düğme verinin nerede tutulduğu. Şirket, hazirandan beri Mythos ve Fable modelleri için müşteri verisini kendi sunucularında 30 gün saklıyordu. Sonbaharda gelecek değişiklikle veri yine 30 gün boyunca tutulacak ama müşterinin kendi bulutunda kalacak. Amaç değişmiyor: sistem, teknolojiyi kullanan yeni siber saldırıları saptamak için bu veriyi taramaya devam edecek. Şirketin kabulü daha önemli: kuralın hem müşteriler tarafından sevilmediği hem de satış açısından risk yarattığı görüldü; yeni düzen, düzenlemeye tabi sektörlerden 100'den fazla müşteriyle aylarca çalışılarak kuruldu.[3]
Ramp model seçimini ve kaydı ayrı ürüne çeviriyor
Ramp'ın Router ürünü, yönetişimin üçüncü yüzünü gösteriyor: aynı isteği hangi modelin alacağına ve bu kararın nasıl izlendiğine odaklanıyor. Şirket, aracı üç yıl boyunca kendi içinde kurduğunu ve şimdi dış geliştiricilere açtığını söylüyor. Seçim; sağlayıcının esnek kullanım katmanına, kullanıcının belirlediği en fazla üç başarım ölçütüne ya da zor sorguyu pahalı modele gönderirken ucuzları da yanında deneme mantığına göre yapılıyor. Ürün, belirteç harcamasını, gideri, gecikmeyi ve yedeğe düşme denemelerini panelde izliyor; girdileri, çıktıları ve araç çağrılarını öntanımlı olarak bir yıl saklıyor. Böylece yönetişim, erişim sorusuna ek olarak hangi modelin ne giderle ve hangi kayıt iziyle seçileceği sorusunu da kapsıyor.[4]