NHS yapay zekâ yazmanları hasta kayıtlarına yanlış ilaç ve tanı yazdı
Healthwatch England, NHS genelinde kullanılan yapay zekâ yazmanlarının hasta kayıtlarına yanlış tanılar ve hatalı ilaç adları girdiğini bildirdi. İngiltere'deki muayenehanelerde en az 27 farklı yazıya dökme platformunun çalışmasına ve teknolojinin hükümetin 10 Yıllık Sağlık Planı'nda desteklenmesine rağmen, MHRA yalnızca yazıya döken araçları tıbbi cihaz olarak denetlememeyi seçti.
Yapay Zekâ··Öğle
Yazmanlar ilaç uydurdu ve tanıları tersine çevirdi
Healthwatch England, muayeneleri yazıya döken ortam dinlemeli yapay zekâ yazmanlarının yazılışı ve okunuşu benzeyen ilaç adlarını karıştırdığını ve yanlış tanılar ürettiğini bildirdi. Hekimler, yazılımın görüşme sırasında hiç geçmeyen ilaçlar uydurduğu vakalar aktardı. Bir hastaya, tahlilde "null demyelination" yazdığı hâlde demiyelinasyon tanısı iletildi; yazman anlamı tersine çeviren sözcüğü metne almamıştı. Bir özet mektupta, migren ilacı için yinelenen reçete istenmesi gerektiği bilgisi yer almadı ve bir başka hastanın kaydında konuşulmamış bir Prozac reçetesi göründü.[1], [2]
Hataları kayıtlarında genellikle hastalar yakaladı
Hataları çoğu zaman, dökümü inceleyen hekim değil hasta yakaladı. Healthwatch England, düzeltilmediği takdirde, özellikle de hastalar tıbbi kayıtlarını düzenli denetlemediğinde veya tanılardaki ince değişiklikleri görecek tıbbi bilgiden yoksun olduğunda, bu tür hataların hastaya zarar verebileceği konusunda uyardı. Gözlemci kurum, yazım hatalarını ele almak için güçlü itiraz ve düzeltme mekanizmaları çağrısında bulunuyor.[1], [2]
MHRA yazmanları cihaz denetiminden muaf tutuyor
Pratisyen hekim muayenehaneleri ve hastane vakıfları genelinde en az 27 ayrı yapay zekâ yazman platformu hâlihazırda kullanılıyor. Pharmacy Business, teknolojinin hükümetin idari evrak işlerini azaltmaya yönelik 10 Yıllık Sağlık Planı'nda desteklendiğini, ancak MHRA'nın yapay zekâ yazmanlarını tıbbi cihaz olarak sınıflandırmamayı seçerek standart bir ulusal güvenlik denetimi sağlamadığını belirtiyor. Kurumun ağustos ayındaki kılavuzu, yalnızca söyleneni yazıya döken bir sistemi cihaz saymadığını, tanı ya da tedavi öneren bir sistemin cihaz sayılabileceğini belirterek yalnızca yazıya döken sistemleri doğrudan tıbbi denetimin dışında bırakıyor.[1], [2]
İlgili köşe yazıları
Bu gündem hakkında daha fazla bilgi için ilgili köşe yazılarını okuyabilirsiniz.
