Eigen RadarYapay Zekâ
Arşiv
Analiz

Anthropic, Fable ve Mythos’u farklı erişim önlemleriyle yayımladı

Anthropic, aynı temel modele dayanan Claude Fable ve Claude Mythos sürümlerini 9 Kasım’da yayımladı. Fable ek güvenlik önlemleriyle genel kullanıma açılırken Mythos’a erişim, uygunluğu incelenen kuruluşlarla sınırlandırılıyor. Şirket, tehlikeli kullanımları engellemeye yönelik korumaları, modellerin sınama sırasında nasıl davrandığını inceleyen denetimleri ve dış değerlendirmeleri de yeni sürümlerle birlikte açıkladı.

Yapay Zekâ··Sabah
Bir yapay zekâ değerlendirme ofisinde bir değerlendirici pencere önünde basılı konuşma dökümlerini okuyor.

Aynı modele farklı erişim koşulları uygulanıyor

Claude yapay zekâ modellerini geliştiren Anthropic, Fable 5.2 ve Mythos 5.2’yi 9 Kasım’da yayımladı. Şirketin açıklamasına göre iki ürün aynı temel modeli kullanıyor. Fable genel kullanıma açılırken Mythos, uygunluğu incelenmiş kuruluşlara hizmet veren programlarla sınırlandırılıyor. Anthropic, yeni sürümlerde bazı yetenekleri kısıtladığını belirtiyor.[1], [2]

Fable’da siber saldırı ve biyolojik kötüye kullanım risklerine karşı ek korumalar bulunuyor. Bu alanlardaki belirli talepler önceki modellere yönlendirilebiliyor. Siber güvenlik uzmanları, Mythos’a erişmek için doğrulama programına başvurabiliyor. Böylece aynı temel modelden türeyen iki ürün, güvenlik önlemleri ve erişime uygunluk koşulları bakımından ayrılıyor.[1]

Davranış denetiminde sınırları zorlayan görevler kullanılıyor

Anthropic, yaklaşık 1.900 senaryolu otomatik davranış denetimiyle birlikte ayrı bir sanal alan sınamasını anlattı. Bu ortamda görevlerin çoğu, belirlenen sınırlar aşılmadan tamamlanamayacak biçimde hazırlanmış. Şirket, modellerin sınandıklarından kuşkulandıklarını yakın dönem bazı sürümlerden daha sık dile getirdiğini belirtiyor. İç konuşma incelemeleri, eğitim izleyicileri ve dış değerlendirmeler şirketin risk değerlendirmesine girdi sağladı.[1]

Dış değerlendiriciler ayrı bir görev üstleniyor

Dış değerlendiriciler arasında Birleşik Krallık’ın yapay zekâ güvenliği kuruluşu AI Security Institute, model değerlendirme kuruluşu METR ve Frontier Design sayılıyor. Anthropic, bu kuruluşların duyuruyu veya sistem kartını incelemediğini ve sonuçlarını onaylamadığını belirtiyor. Müşteri altyapısında çalışan bir hizmet de Bridgewater, Salesforce ve Stripe’ın katıldığı özel denemeye açılıyor. Duyuruda erişim denetimleriyle veri saklama düzenlemeleri de yer alıyor.[1]

Kaynakça

  1. Haber kaynağıAnthropicAnthropic, Fable ve Mythos 5.2 modellerini yayımladı↩1↩2↩3↩4
  2. Haber kaynağıClubicAnthropic, Claude Fable 5.2 ve Claude Mythos 5.2’yi yayımladı↩
YZ güvenliği ve regülasyonÇip savaşları ve tedarik zinciriSınır modeli yarışı

Aynı masadan diğer analizler

Yapay Zekâ masasındaki tüm Gündem analizlerini görüntüle →