Fransa’nın siber güvenlik kurumu ANSSI, yazılım araçlarıyla işlem yapabilen yapay zekâ eylemcilerini kullanan kuruluşlara yönelik yedi ilke yayımladı. Rehber, izin denetimlerinin model dışında yapılmasını ve kritik işlemlerde insan onayı alınmasını öneriyor. Ayrı çalışma ortamları, korunan günlükler ve acil durdurma düzenekleri de öneriler arasında. Amaç, izin verilen işlemlerin bile yol açabileceği zararı sınırlamak.
Yapay Zekâ··Gece
Kritik işlemler için belirli bir onay gerekiyor
Fransa’nın ulusal siber güvenlik kurumu ANSSI, yapay zekâ eylemcilerinin güvenliğine yönelik rehberini 30 Ekim’de yayımladı. Yedi ilke, araç kullanarak iş uygulamalarında işlem yapan sistemleri kuran veya yapılandıran kuruluşlara yönelik. Rehber, işlemlerin bağımsız yapılabilen, insan onayı gerektiren ve yasaklanan işlemler olarak ayrılmasını öneriyor. Hassas verilere erişim, izin değişiklikleri ve üretim ortamına kurulum, insanın doğrulaması gereken işlemler arasında.[1], [2]
İzin denetimleri modelin dışında tutuluyor
İnsan denetçinin yapılacak işlemi, amacını ve beklenen etkilerini açıkça görmesi öneriliyor. Onay düzeneğinin eylemcinin denetimi dışında tutulması isteniyor. Modelden bağımsız, önceden belirlenmiş kurallarla çalışan kontroller ise kimliği, işlemi, parametreleri ve hedefi incelemeli; izin verilmedikçe erişimi reddetmeli. ANSSI, işlem dizilerinin de denetlenmesini öneriyor: Tek başına izin verilen adımlar birleştiğinde güvenli olmayan bir sonuç ortaya çıkabiliyor.[1]
Acil durdurmaya korunan günlükler eşlik ediyor
Geliştirme, değerlendirme ve üretim ortamlarında ayrı kimlikler, bağlantılar ve gizli bilgiler kullanılması öneriliyor. Kurum, kimlik bilgilerinin model bağlamından ve belleğinden uzak tutulmasını, erişimi iptal edebilen acil durdurma düzeneği kurulmasını istiyor. Günlükler, eylemcinin değişiklik yapmasına karşı korunmalı; ilk istekten izin kararına, işlemden sonuca kadar zinciri göstermeli. Yayın, sistemlerin işletilmesine yönelik teknik öneriler sunuyor; yeni bir yasal yükümlülük getirmiyor.[1]
