Açık modeller güvenlik araçlarıyla birlikte savunuluyor
Açık model tartışması iki yönde ilerliyor: 40'tan fazla kuruluş ortak güvenlik araçları geliştiriyor, Anthropic ise yasak yerine yetenek temelli testleri savunuyor.
Yapay Zekâ··Sabah
Açık güvenlik için ortak bir çatı
NVIDIA'nın duyurusuna göre Microsoft, IBM, Red Hat, Hugging Face, Cisco ve Linux Foundation'ın da bulunduğu 40'tan fazla kuruluş Open Secure AI Alliance'ı kurdu. Birlik, yazılımı ve ajanları korumak için açık teknoloji, yöntem ve araç geliştirmeyi amaçlıyor. Adlandırılan katkılar arasında HPE'nin SPIFFE/SPIRE kimlik standartları, Hugging Face'in Safetensors ağırlık biçimi ve IBM ile Red Hat'in Lightwell tedarik zinciri projesi bulunuyor. Duyuru, açık modelleri bir yükümlülük değil, savunma varlığı olarak konumlandırıyor.[1]
Anthropic yasağın yerine üç önlem koyuyor
Anthropic genel müdürü Dario Amodei, şirketin açık ağırlıklı modellerin yasaklanmasını hiçbir zaman savunmadığını ve tehlikeli yetenek taşımayan modelleri kamusal bir yarar saydığını yazdı. Amodei bunun yerine güçlü çiplerin Çin'e satışını ve kaçakçılığı sınırlamayı, otoriter devletlerin desteklediği sanayi ölçekli model damıtmayı hedeflemeyi ve yeterince yetenekli her modeli zorunlu güvenlik testinden geçirmeyi öneriyor. Son koşul açık ve kapalı modelleri aynı yetenek eşiğinde buluşturuyor.[2]
Araçlar ve kurallar aynı ayrımı izliyor
İki açıklama, modelin açık olmasını güvenlik önlemlerinin yokluğuyla bir tutmuyor. Birlik, açık biçimleri, kimlik standartlarını ve tedarik zinciri araçlarını ortak savunma altyapısına dönüştürmek istiyor; Anthropic ise denetimi dağıtım biçimine değil, tehlikeli yeteneğe bağlıyor. Bununla birlikte birlik duyurusu bir yönetişim yapısı, bütçe veya bağlayıcı taahhüt açıklamıyor. Dolayısıyla bugünkü gelişme, hazır bir güvenlik düzeninden çok, açıklık korunurken teknik araçlarla yetenek temelli kuralların birlikte kurulmasına yönelik bir sektör çabası.[1], [2]
