Singapur’un IMDA kurumu, eylemci yapay zekâ için sınama kılavuzu yayımladı
Singapur’un bilgi iletişim ve medya kurumu IMDA, eylemci yapay zekâyı kullanıma almadan önce ve kullanım sırasında sınamak için başlangıç kılavuzu açıkladı. Dört adım; riskleri belirlemeyi, sınama tasarlamayı, sonuçlarla işlem günlüklerini incelemeyi ve sürekli izlemeyi kapsıyor. Kılavuz, son yanıtın yanında eylemcinin yaptığı işlemleri de değerlendiriyor. Böylece araç kullanan, hassas bilgilere erişebilen ve kullanıcı adına işlem yürüten sistemlerin sınanmasına yol gösteriyor.
Yapay Zekâ··Gece
Sınama eylemcinin yaptığı işlemleri izliyor
Singapur’un bilgi iletişim ve medya düzenleyicisi IMDA, 14 Ekim’de eylemci yapay zekâyı sınamak için başlangıç kılavuzu açıkladı. Kılavuz, kullanıcı adına görev yürüten sistemleri kullanıma alan kurumların güvenliği ve güvenilirliği değerlendirmesini amaçlıyor. Son çıktının yanında görev sırasında atılan adımlar da inceleniyor. Böylece değerlendirme, yalnızca verilen yanıtın incelenmesinin ötesinde eylemcinin gerçekleştirdiği işlemleri kapsıyor.[1], [2]
Dört adım kullanımdaki sistemi de kapsıyor
Kılavuzda süreç, riskleri belirlemekle ve bunlara uygun sınamalar tasarlamakla başlıyor. Sonuçlar ile işlem günlükleri incelendikten sonra sürekli izleme ve yeniden sınama geliyor. Bu adımlar araç kullanabilen, hassas bilgilere erişebilen ve kullanıcı adına işlem yürütebilen eylemcilere yönelik. Kurumların kullanıma almadan önce hazırlık yapması ve sistem çalışırken değerlendirmeyi sürdürmesi amaçlanıyor. Günlüklerin incelenmesi de bu sürecin ayrı bir adımını oluşturuyor.[1]
Kılavuz deneme çalışmaları ve sektör görüşleriyle hazırlandı
IMDA, kılavuzu Singapur’da yapay zekâ güvencesini ele alan AI Assurance Exchange etkinliğinde sundu. Hazırlıkta, yapay zekâ sınamalarına yönelik Global AI Assurance Sandbox programının ve yapay zekâ güvenliğini değerlendiren Singapur Yapay Zekâ Güvenliği Enstitüsü’nün çalışmalarından yararlanıldı. Sektörden yirmiden fazla katılımcıyla da görüşüldü. IMDA Başkanı Ng Cher Pong, girişimi kurumun eylemci güvenliği ve siber dayanıklılık çalışmaları kapsamında duyurdu.[1]
