Doğru yanıtın ardından

Adayın nitelikleri aynı kaldığı hâlde onun lehine verilmiş kararın bir itirazla daha kolay bozulması, işe alımın görünmeyen bir yükünü tarif ediyor: kararı yeniden savunmak. Allen Yapay Zekâ Enstitüsünün, kısa adıyla Ai2’nin, FairStress çalışması tam bu ihtimali sınamak için tasarlandı. Araştırmacılar kurmaca adaylar arasındaki seçimleri farklı kimlik işaretleriyle ve karşı yöndeki gerekçelerle yeniden sordular. Doğru ilk yanıtı bulmak ile o yanıtı aynı tutarlılıkla korumak ayrı ölçütler hâline geliyor. Benim buradaki ilgim, bir modelin sıralamadaki yeri kadar, adayın hangi karar sürecine tabi tutulduğu.[1]

Çalışmada çoğunluk olarak kodlanan aday lehindeki doğru kararlar, azınlık olarak kodlanan aday lehindekilere göre baskı altında daha sık terk ediliyor. Bu yönü saklamanın da ondan bütün işyerlerine ilişkin hüküm çıkarmanın da anlamı yok. Burada gerçek adayların işe girme oranları ölçülmüyor. Kısa, yapay olarak hazırlanmış senaryolarda model davranışı inceleniyor. İşverenin bu sonuçtan çıkarabileceği somut soru şu: Bir karar değiştiğinde değişikliği gerektiren yeni bir nitelik mi geldi, yoksa aynı niteliklere ilişkin ikna dili mi değişti? Bu ayrımın hesabı adaya yüklenmemeli.[1]

Kararı değiştirme yetkisi

Yükün dağılımını açınca farklı taraflar görünüyor. İşveren değerlendirme aracını seçiyor, ölçütlerini belirliyor ve model yanıtını insan kararına bağlayan akışı kuruyor. Yönetici öneriyi kabul etme veya değiştirme yetkisine sahip. Aday ise bu akışın yalnızca kendisine açılan bölümünü görüyor. FairStress bu yetki dağılımını bir şirkette ölçmüş değil. Benim çıkardığım sonuç daha dar: Kararın gerekçesini ve değişme nedenini kayıt altına almak, işverenin kendi aracını denetleme işidir. Adayın modelin hangi ifadeyle fikrini değiştirdiğini keşfetmesine bağlı bir itiraz yolu, denetim emeğini yanlış tarafa bırakabilir.[1]

Kararı hiç değiştirmemek de adalet ölçüsü sayılamaz. Yanlış bilgi düzeltilmeli; eksik görülen bir nitelik değerlendirmeye girebilmeli. Araştırmanın kullandığı eşitlik tanımı, kimlikler değiştiğinde aynı ölçüt ve aynı karar dayanıklılığını arıyor. Tarihsel dezavantajı hesaba katan hakkaniyet anlayışı ise bazı durumları başka türlü değerlendirebilir; yazarlar bu sınırı açıkça kabul ediyor. Dolayısıyla her değişikliğe hata damgası vurmak yerine hangi gerekçenin kabul edilebilir olduğunu önceden belirlemek gerekiyor. Bence bu tercih, adayın kimliği görüldükten sonra modelin doğaçlamasına bırakılacak bir iş değil.[1]

Denetimin işverendeki payı

Bu çerçevede işe alım yöneticisine düşen görev, otomatik öneriye son bir onay vermekten daha geniş. Hangi bilgiyle karar alındığını, hangi ek bilgiyle değiştiğini ve aynı gerekçenin başka aday için de kabul edilip edilmediğini açıklayabilmek gerekiyor. Bu benim önerdiğim sorumluluk düzeni; araştırmanın belirli bir işyerinde doğruladığı sonuç değil. İnsan denetimi, yalnızca ekranda bir kişinin bulunmasıyla tamamlanmıyor. Denetleyenin model önerisinden ayrılabilmesi, bunun nedenini yazması ve adayın başvurabileceği anlaşılır bir muhatabın bulunması da bu işin parçaları.[1]

FairStress’in işgücü tartışmasına katkısını burada görüyorum: değerlendirmeyi otomatikleştirirken kararın savunulması işini görünür kılıyor. Araştırma iş kaybı, ücret veya işe alım süresinde bir kazanç kanıtlamıyor; bunları bu sonuçlara eklemek yanlış olur. Yine de araç seçimi için somut bir talep üretmeye yetiyor. İşveren, kullandığı ölçütleri ve karar değiştirme yetkisini açıkça sahiplenmeli; itirazı da adayın ikna becerisi yarışına çevirmeden ele almalı. Bir başvuruyu değerlendiren sistemi düzeltme emeğinin kime ait olduğu, o sistemin doğruluk puanı kadar açık biçimde yazılmalı.[1]