Michael Barr, bankacılıkta eylemci yapay zekâ için açık rıza istedi
ABD Merkez Bankası Yönetim Kurulu Üyesi Michael Barr, müşteri hesaplarında işlem yapmaya çalışan eylemci yapay zekâların yetkisini bankaların her zaman doğrulayamadığını söyledi. Açık rıza, güçlü kimlik doğrulama ve sınırlı işlem yetkileri önerdi. Milano’daki konuşmasında kredi ayrımcılığı ile ortak işlem modellerinin benzer kararlar üretmesi riskini de değerlendirdi. Barr, görüşlerinin kendisine ait olduğunu vurguladı.
Ekonomi ve Piyasalar··Sabah
Eylemcinin müşteri adına yetkisi sorgulanıyor
ABD Merkez Bankası Yönetim Kurulu Üyesi Michael Barr, 16 Kasım’da İtalya’nın Milano kentindeki konuşmasında finansal hizmetlerde yapay zekânın risklerini ele aldı.[1], [2]
Büyük bankaların, müşteri hesaplarında işlem yapmaya çalışan eylemci yapay zekâlarla karşılaştığını söyledi. Bankalar bunların kimliğini, müşterinin rızasını veya işlemin talimata uygunluğunu her zaman doğrulayamıyordu. Barr, güçlü kimlik doğrulama, belirli işlemler için açık rıza ve eylemcilerin yeteneklerini sınırlayan teknik denetimler önerdi.[1]
Alternatif kredi verileri ayrımcılık riski taşıyabiliyor
Barr’a göre kira ödemeleri, elektrik gibi hizmet faturaları ve çalışma bilgileri, krediye erişimi genişletebilir. Ancak bu veriler, ırk veya ulusal köken gibi korunan özelliklerin dolaylı göstergelerini de içerebilir. Tüketiciler, geleneksel kredi raporlarında bulunan inceleme ve itiraz olanaklarına bu bilgiler için sahip olmayabilir. Barr, kararları açıklanabilen modeller, adil işleyişin sürekli izlenmesi, model doğrulaması ve erişilebilir itiraz yolları gerektiğini belirtti.[1]
Ortak modeller piyasa kararlarını eşzamanlı kılabilir
Toptan piyasalarda benzer modellerin benzer alım satım kararları vermesi ve birlikte başarısız olması riskine de değindi. Barr, algoritmaların fiyat konusunda işbirliği yapmasını, piyasada gerçekleştiği kanıtlanmış bir sonuç olarak değil teorik bir risk olarak anlattı. Bu eylemciler sıkıntılı dönemlerde mevduat çekilişlerini hızlandırabilir. Yapay zekâ araçları hem siber saldırganların hem savunma yapanların yeteneklerini artırıyor. Barr, bu değerlendirmelerin Fed’in kurumsal tutumunu değil kendi görüşlerini yansıttığını vurguladı.[1]