Eigen RadarYapay Zekâ
Analiz

Ragas, yapay zekâ değerlendirmesinde görsel erişimini sınırlandırdı

Ragas’ın 0.4.4 sürümü, görsellerle yapılan yapay zekâ değerlendirmesinde iç ağ kaynaklarının veya yerel görsellerin model sağlayıcısına açılmasına yol açabilen güvenlik sorununu giderdi. Kütüphane, görsel isteklerini genel internet adresleriyle sınırlıyor ve yerel dosyalar için açık izin istiyor. Bakımcıların tek sürüm belgesinde açıkladığı düzeltme, güncel ve eski değerlendirme arayüzlerini kapsıyor.

Yapay Zekâ··Gece
Açık bir dizüstü bilgisayar ekranında bulanık küçük görsel ızgarası; bazı kareler yüklenmeyen görselleri gösteren düz gri yer tutuculardan oluşuyor.

Görselle değerlendirmeye erişim sınırı geldi

Yapay zekâ yanıtlarını değerlendiren Ragas kütüphanesinin 14 Kasım’da yayımlanan 0.4.4 sürümü, çok kipli ölçümlerdeki bir güvenlik sorununu gideriyor. Güvenilmeyen değerlendirme metinlerindeki görsel başvuruları, değerlendirme makinesinin iç ağ kaynaklarına erişmesine veya yerel görselleri okuyup içeriği model sağlayıcısına göndermesine yol açabiliyordu. Düzeltme, güncel koleksiyon arayüzünü ve eski arayüzü kapsıyor. Gelişme, bakımcıların tek sürüm belgesine dayanıyor.[1]

Bağlantı kurulurken genel adres denetleniyor

Görsel istekleri artık yalnızca genel internet adreslerine gönderiliyor. Denetim, gerçekten bağlantı kurulan adrese uygulanıyor ve yönlendirmelerden sonra yineleniyor. Yerel görseller başlangıçta okunmuyor; erişimi açmak için görsellerin alınabileceği dizinin de seçilmesi gerekiyor. Yüklenmeyen görsel, uyarı verilerek modele metin olarak aktarılıyor. Denetim görseli yüklemeyi reddettiğinde bu durum değerlendirme sırasında günlüğe yazılıyor; yerel dosyaların kendiliğinden okunması da engelleniyor.[1]

Düzeltmeyle birlikte model uyumu da yenilendi

Aynı sürüm, bir bağımlılık değişiminden sonra başlangıçta sorun çıkaran VertexAI içe aktarmalarını isteğe bağlı yapıyor. Anthropic isteklerinde kullanıcı seçmedikçe örnekleme ayarları gönderilmiyor ve varsayılan çıktı biçimi JSON oluyor. Noktalı OpenAI model adlarının tanınması da değişiyor. Bakımcılar, başlangıçtaki örnekleme ayarları değiştiği için eski Anthropic modellerinde değerlendirmeler arasındaki oynaklığın artabileceğini belirtiyor.[1]

Kaynakça

  1. Haber kaynağıRagasRagas, değerlendirme verisinden iç ağa ve yerel dosyalara erişen açığı kapattı↩1↩2↩3