Fastly, model çağrılarını tek denetim katmanında topluyor
Fastly, genel ve kurum içinde barındırılan modelleri tek uç noktadan yöneten AI Runtime Control'u kullanıma açtı. Sanal anahtarlar erişimi, belirteç giderini, model seçimini, günlüklemeyi ve sağlayıcılar arası yedek geçişi yönetiyor; AI Firewall ile API Security de komutları ve eylemci çağrılarını denetliyor. RuntimeWire aynı ürün grubunun açılışını doğruluyor; bağımsız etkinlik veya gecikme karşılaştırması henüz yok.
Yapay Zekâ··Öğle
Tek uç nokta birden çok model sağlayıcısını yönlendiriyor
Fastly, AI Runtime Control’u genel bulut modelleriyle kurum içinde barındırılan modeller için ortak uç nokta olarak kullanıma açtı. Sanal anahtarlar uygulama erişimini sağlayıcı kimlik bilgilerinden ayırıyor; gider sınırı koyabiliyor, model seçebiliyor, istekleri günlükleyebiliyor ve bir yol çalışmadığında sağlayıcı değiştirebiliyor. Uzman teknoloji yayını RuntimeWire da aynı açılışı aktararak katmanı, bu denetimleri her uygulamada yeniden kurmak yerine model ve eylemci trafiğini Fastly’nin uç altyapısında yönetmenin yolu olarak tanımlıyor.[1], [2]
Güvenlik duvarı komutları model çalışmadan önce inceliyor
Paketteki AI Firewall, bir istek modele ulaşmadan önce doğal dil girdisini komut sızdırma ve başka saldırılar için inceliyor. Fastly’nin genişletilmiş API Security hizmeti ise bir eylemci API seçtikten sonra farklı bir denetim uyguluyor: İsteği gözlemleyebiliyor veya çağrı API sözleşmesinin dışına çıktığında engelleyebiliyor. RuntimeWire da komut incelemesiyle eylemcinin API erişimine uygulanan denetimler arasındaki aynı ayrımı anlatıyor. Ürünler gelecek gösterimi değil, kullanıma açık hizmetler olarak sunuluyor.[1], [2]
Etkinlik ve gecikme ölçümleri açıklanmadı
Duyuru, denetimlerin nerede çalıştığını ve hangi işlemleri yapabildiğini açıklıyor ancak saptama etkinliği veya gecikme için bağımsız bir karşılaştırma yayımlamıyor. RuntimeWire da güvenlik duvarının etkinlik, yanlış alarm ve gecikme ölçümlerinin bulunmadığını belirtiyor. Böylece iki anlatım yönlendirme ve engelleme işlevlerini ortaya koyuyor; sistemin saldırıları ne sıklıkla yakaladığı, güvenli komutları ne ölçüde engellediği veya ne kadar gecikme eklediği için dışarıdan ölçüm bulunmuyor.[1], [2]
