Anthropic, tehlikeli modelleri durdurmak için yargıç onayı önerdi
Anthropic, tehlikeli bir yapay zekâ modelinin durdurulmasını yargıç onayına bağlayan federal yasa önerisini ABD’de milletvekillerine sunuyor. Taslak; güvenlik sınamalarını, sonuçların açıklanmasını ve bağımsız değerlendirmeyi yakın zarar eşikleriyle birleştiriyor. Öneri, federal denetimin yanında Kaliforniya dahil eyaletlerin kurallarının nasıl işleyeceğini de gündeme getiriyor. Şirketin önerdiği bu düzen henüz yürürlüğe girmiş bir yasa değil.
Yapay Zekâ··Gece
Durdurma kararını federal yargıç verecek
Claude yapay zekâ asistanını geliştiren Anthropic, ABD’de federal yapay zekâ yasası için hazırladığı öneriyi milletvekillerine sunuyor. Taslak, tehlikeli modellerin sınırlandırılması için yönetime başvuru yolu tanırken durdurma kararını yargıç onayına bağlıyor. Politico’nun taslağı ortaya çıkarmasının ardından şirket sözcüsü, önerinin temel yükümlülüklerini 16 Ekim’de AFP’ye doğruladı.[1], [2]
Müdahale için önerilen eşik, 50’den fazla ölüm veya ağır yaralanma ya da 1 milyar doları aşan zarar doğuracak yakın tehlike. Bu sayılar, taslakta müdahalenin koşullarını tanımlıyor. Anthropic’in önerdiği yetkiler, kabul edilmeyi bekleyen bir yasa önerisi aşamasında.[1]
Güçlü modellere sınama ve bağımsız değerlendirme
Geliştiriciler, en güçlü modellerini sınamak, sonuçları kamuoyuna açıklamak, bağımsız değerlendirme yaptırmak ve güçlü bir güvenlik programı yürütmekle yükümlü olacak. Anthropic, bu çerçevenin federal yönetime tehlikeli kullanıma açılışları engelleme veya caydırma yetkisi vereceğini belirtiyor. Başkan Donald Trump döneminde federal yapay zekâ politikası ağırlıkla başkanlık kararnamelerine ve şirketlerin gönüllü taahhütlerine dayandı.[1]
Öneri, eyaletlerin kurallarını da etkiliyor
Anthropic, Kaliforniya’dakiler dahil bazı eyalet düzenlemelerinin önüne geçecek federal hükümler öneriyor. Anthropic, haziranda güçlü bir federal yasa bulunmadığı sürece eyaletlerin düzenleme yetkisini bütünüyle korumasını savunmuştu. Hukuk ve yapay zekâ politikaları alanında çalışan Institute for Law & AI’dan Charlie Bullock, öneriyi diğer laboratuvarların girişimlerine kıyasla olumlu buldu. Metni ise yazın Temsilciler Meclisi’ne sunulan FRONTIER Act’ten daha zayıf gördü.[1]
