Eigen RadarYapay Zekâ
Analiz

Pretxt, çalışan yapay zekâ eylemcileri için gözetim aracını erken erişime açtı

ABD ve İrlanda merkezli Pretxt, kurum adına iş yapan yapay zekâ eylemcilerini çalışma sırasında denetleyen AI Supervision aracını erken erişime açtı. Ekipler bekledikleri davranışı günlük dille tarif ediyor ve denetim planındaki değişiklikleri onaylıyor. Şirket, yetkisini aşan eylemciyi görevine geri yönlendirmeyi amaçlıyor; müşteri hizmetlerinde izinsiz söz verilmesi de hedeflenen durumlar arasında bulunuyor.

Yapay Zekâ··Gece
Dublin’deki bir yazılım ofisinde iki uzman, yapay zekâ ajanlarının denetimini ve yetki sınırlarını aşan işlemlerin yönlendirilmesini gösteren iş akışı şemasını inceliyor.

Gözetim, eylemciyi iş sırasında denetliyor

ABD ve İrlanda merkezli kurumsal yazılım şirketi Pretxt, AI Supervision aracını 17 Kasım’da erken erişime açtı. Araç, kurum adına uygulamaları kullanarak iş yapan yapay zekâ eylemcilerini hedefliyor. Pretxt’e göre gözetim katmanı, iş sürerken eylemcinin davranışını denetliyor. Kurumun talimatlarından veya verdiği yetkinin sınırlarından sapma olduğunda eylemciyi yeniden görevinin sınırlarına yönlendiriyor. Böylece işlem sırasında müdahale etmek amaçlanıyor.[1], [2]

Ekipler sınırları günlük dille belirliyor

Kurum ekipleri, beklenen davranışı ve yetki sınırlarını günlük dille tanımlıyor. Önerilen gözetim planını kendi örnekleriyle sınadıktan sonra onaylayabiliyorlar. Gerçek kullanımdan çıkarılan değişiklik önerileri de insan incelemesine bağlı tutuluyor. Pretxt, her işlemi başka bir büyük dil modeline değerlendirtmeyen bir motor kullandığını söylüyor. Şirketin kurucu ortakları Brian Soby ve Aaron Costello daha önce AppOmni’de çalıştı.[1]

Para iadesi ve doğrulama hedeflenen işler arasında

Şirketin verdiği örnekler arasında izinsiz para iadesini önleme, pazarlama tekliflerini onaylanmış koşullarla sınırlama ve finans işlemlerinde borçlu doğrulamasını tamamlama bulunuyor. Sağlık alanında randevu ve bilgi işleri klinik karar sınırları içinde ele alınıyor. Sigortadaki istisnalar ve yüksek tutarlı kararlar insan onayına yönlendirilebiliyor. Bunlar erken erişimdeki sistemin amaçlanan kullanım alanları. Kurumlar değerlendirme için kendi işleyişlerini ve çalışma koşullarını getirebiliyor.[1]

Kaynakça

  1. Haber kaynağıPretxtPretxt, eylemcileri işlem sırasında denetleyen aracını erken erişime açtı↩1↩2↩3
  2. Haber kaynağıSecurityWeekPretxt, eylemci yapay zekâ için çalışma sırasında gözetim sunuyor↩