Rol yönergeleri, aynı vaka bilgileriyle klinik yapay zekâ kararlarını değiştirdi
20 açık ağırlıklı dil modelini karşılaştıran hakemli deneyde, hekimin karar tarzını anlatan kısa yönergeler modellerin önerilerini değiştirdi. Klinik bilgiler aynı tutulurken evet yanıtlarının oranı yüzde 36,9 ile yüzde 46,4 arasında değişti. Kurgusal acil servis vakaları ve kimliksizleştirilmiş taburcu özetleri kullanılan çalışma, kararların tıbbi doğruluğu yerine eyleme geçme eğilimini ölçüyor. Gerçek hastalarda yarar sınaması yapılmadı.
Yapay Zekâ··Sabah
Aynı vaka bilgileriyle karar oranı değişti
Hakemli bir deneyde, hekimin karar tarzını anlatan kısa yönergeler 20 dil modelinin eylem önerme sıklığını değiştirdi. Rol tanımı verilmeyen durumda kararların yüzde 42,8’i evet yanıtıydı. Tanımlanan roller arasında bu oran yüzde 36,9 ile yüzde 46,4 arasında değişti. Klinik bilgiler aynı tutulduğu halde iki uç arasında 9,5 puan fark oluştu.[1]
Dokuz rol etik öncelikleri düşünme biçimleriyle eşleştirdi
Eyal Klang ve çalışma arkadaşları, görev temelli, bakım temelli ve faydacı öncelikleri sezgisel, bütünleştirici ve analitik düşünme biçimleriyle eşleştirdi. Böylece dokuz rol tanımı oluşturuldu. Modellere güvenlik, özerklik, tedavi, kaynak kullanımı ve izlem hakkında ikili yanıt gerektiren sorular yöneltildi. Yanıt biçimi ile görev yönergeleri korunurken her koşul on kez yinelendi. Açık ağırlıklı modeller yerel altyapıda çalıştı; araç, bilgi getirme, bellek veya kendini düzeltme kullanılmadı.[1]
İki klinik veri kümesinde değişimin yönü büyük ölçüde örtüştü
Deneyde 2500 kurgusal acil servis vakası ve klinik metin veri tabanı MIMIC-IV-Note içinden 2500 kimliksizleştirilmiş yetişkin taburcu özeti kullanıldı. Araştırmacılar, iki kümede değişimin yönünün yüzde 85,7 oranında örtüştüğünü bildirdi. Tıbba uyarlama veya model büyüklüğü, rol tanımının etkisine karşı tutarlı koruma sağlamadı. npj Health Systems’te 14 Kasım’da yayımlanan çalışmada önerilerin tıbbi kılavuzlara uygunluğu veya hasta sonuçlarını iyileştirip iyileştirmediği değerlendirilmedi.[1]
İlgili köşe yazıları
Bu gündem hakkında daha fazla bilgi için ilgili köşe yazılarını okuyabilirsiniz.