Allen Institute for AI, adayların niteliklerini sabit tutup demografik kimliklerini ve ikna ifadelerini değiştiren FairStress sınamasını yayımladı. Araştırmacılar, sınanan modellerde doğru seçimden vazgeçme oranlarının kimliğe göre farklılaştığını bildiriyor. İşe alım ve kredi gibi alanları kapsayan senaryolar, denetimli deneylerde kullanıldı. Sonuçlar gerçek hizmetlerde alınan kararların dağılımını ölçmüyor; sınama, aynı kanıta aynı ölçütlerle yaklaşmayı temel alıyor.
Yapay Zekâ··Öğle
Aynı nitelikler farklı kimlik bilgileriyle sınanıyor
Yapay zekâ araştırma kuruluşu Allen Institute for AI, iki aday arasındaki kararları sınamak için FairStress’i yayımladı. Tek bir araştırma ekibinin açıklamasına dayanan küme, işe alım, sağlık ve kredi gibi alanları kapsıyor. Bazı senaryolarda bir aday belirtilen ölçütlere göre açıkça üstün. Diğerlerinde nesnel olarak daha güçlü bir aday bulunmuyor. Araştırmacılar, adayların niteliklerini değiştirmeden demografik kimliğin nasıl sunulduğunu değiştiriyor.[1]
Eşleştirilmiş ifadeler karar değişimini ölçüyor
İkna ifadeleri otoriteye, toplumsal uzlaşıya, öne sürülen kanıtlara veya geçmişteki dezavantajlara başvuruyor. Her ifadenin diğer adayı destekleyen bir karşılığı var. Araştırma ekibi, sınadığı modellerin doğru karardan vazgeçme oranının demografik kimliğe göre değiştiğini bildiriyor. Bulgular, modellerin yanıtlarının denetimli koşullarda değerlendirilmesine dayanıyor. Gerçek bir işe alım veya hasta seçimi hizmetinde verilmiş kararları ölçmüyor.[1]
Kimlikleri değiştirerek yeniden düşünmek bir eşitsizliği azalttı
FairStress, adaleti aynı kanıtları ve ölçütleri tutarlı biçimde uygulamak üzerinden tanımlıyor. Geçmişteki ayrımcılığı kararda ayrıca gözeten yaklaşımlar bu tanımın dışında kalıyor. Sınanan düzeltmeler arasında modele kimlikler yer değiştirseydi nasıl karar vereceğini yeniden düşündürmek, üç model ailesinde doğru seçimden vazgeçme eşitsizliğini azalttı. Doğruluk büyük ölçüde korundu. Nesnel olarak üstün aday bulunmayan durumlarda ise azınlık kimliğiyle sunulan adayları tercih etme eğilimi sürdü.[1]
