AISI, gönüllü güvenlik uygulamalarını yapay zekâ geliştirme sürecine yayıyor
Birleşik Krallık’ın Yapay Zekâ Güvenliği Enstitüsü, güçlü modeller halka açılmadan önce doğan risklere yönelik gönüllü teknik uygulamalar önerdi. Öncelikler arasında eğitim sırasında izleme, güvensiz eylemci davranışını saptama ve bağımsız değerlendirmecilere anlamlı erişim sağlama bulunuyor. Kurum, sınamaların daha karmaşık görevleri ve bir modelin sınandığını anlayıp davranışını değiştirme olasılığını da kapsamasını istiyor.
Yapay Zekâ··Öğle
Yol haritası, halka açılmadan önceki riskleri kapsıyor
Birleşik Krallık’ın güçlü yapay zekâ sistemlerini inceleyen kamu araştırma kurumu Yapay Zekâ Güvenliği Enstitüsü (AISI), geliştirme süreci için yeni gönüllü teknik uygulamalar önerdi. Kurumun 12 Ekim’de açıkladığı yol haritası, başbakanın 22 Eylül’de güvenli geliştirme ve uygun açıklık konusunda duyurduğu adımları izliyor. AISI, geliştiricilere zorunlu koşullar getirmek yerine teknik uzmanlığıyla sektörün uygulamalarına katkı vermeyi amaçladığını belirtiyor. Öneri, halka açılmanın yanı sıra eğitim, iç kullanım ve değerlendirme aşamalarında doğan riskleri kapsıyor. Kurum, siber görevlerin geliştirme sürecinin içinde de risk oluşturabileceğini vurguluyor. Yeni öncelikler bu aşamaların denetimini ele alıyor.[1], [2]
Değerlendirmeler daha karmaşık eylemci işlerini kapsamalı
AISI’ye göre yetenek artışı, alışılmış değerlendirme görevlerini yetersiz bırakıyor. Güvenilir sınamalar için daha karmaşık işler, birden fazla eylemcinin birlikte çalıştığı düzenler, günler süren çalıştırmalar ve daha sıkı güvenlik gerekiyor. Modelin çalışması sırasında ayrılan hesaplama gücü ve kullanılan ek araçlar da değerlendirmeye katılmalı. Kurum, modellerin sınandıklarını anlayarak gerçek kullanımdaki davranışlarını gizleyebileceği uyarısını yapıyor. Birkaç eylemcinin işbirliği de az incelenmiş davranışlar doğurabilir. Yapay zekânın kendi geliştirilmesine daha fazla katkı vermesi ilerlemeyi hızlandırabilir ve bu sorunların daha az doğrudan insan denetimi altında ortaya çıkmasına yol açabilir.[1], [2]
Kurum, üç yıllık sınama ve araştırma deneyimine dayanıyor. Yayımlanmadan önce 55’ten fazla modeli bağımsız olarak değerlendirdiğini, geliştiricilerle risk çözümlemeleri ve güvenlik önlemlerinin değerlendirilmesi üzerinde çalıştığını belirtiyor. Eylemci denetimlerini de sınadı. Açık kaynak Inspect yazılımı, modellerin değerlendirilmesinde kullanılabilecek bir araç sağlıyor. Var olan gönüllü düzenler arasında modellerin yayımlama öncesinde üçüncü taraflarla paylaşılması ve bağımsız değerlendirmecilerin geliştirme kuruluşları içinde çalışması bulunuyor.[1], [2]
İzleme ve denetçi erişimi geliştirme sürecine yayılıyor
Öncelikler, riskleri geliştirme boyunca belgelemeyi, izleme ve denetim yeteneğini korumayı kapsıyor. Güvensiz eylemci davranışının tanımlanması, hızla saptanması ve etkilenen taraflara bildirilmesi de ele alınıyor. AISI, bağımsız denetçilerin kapsamı ile erişimine, güvenlikle ilgili yeteneklerin gerçekçi koşullarda sınanmasına ve yüksek riskli durumlarda davranışın değerlendirilmesine de odaklanıyor. Yapay zekânın kendi gelişimine katkısı hakkındaki bilgilerin hükümetlerle ve kamuoyuyla paylaşılmasını istiyor. Kurum, geliştiriciler ile teknik kuruluşların uygulamaları birlikte hazırlayıp sürekli yenilemesini öneriyor. Olgunlaşan yöntemlerin ileride uluslararası teknik ölçütlere katkı verebileceğini belirtiyor. Uygulamaların model yetenekleriyle birlikte geliştirilmesi amaçlanıyor.[1], [2]
