Bağımsız sınama ChatGPT’nin gençlere yönelik korumalarında eksikler buldu
Common Sense Media, yaklaşık 4.000 etkileşimlik değerlendirmesinde ChatGPT’nin genç kullanıcıları koruyan özelliklerinde eksikler buldu. Ebeveyn uyarıları zamanında gelmedi; çalışma modu kolayca aşılabildi. Education Week’e yanıt veren OpenAI, sınama yöntemine itiraz etti ve teknik sorunların bazı korumaları engellediğini savundu. Bulgular sınanan deneyimi kapsıyor; öğrencilerle ebeveynlere sunulan korumaların işleyişini gündeme getiriyor.
Yapay Zekâ··Gece
Binlerce etkileşimden sonra koruma açıkları saptandı
Gençler ve teknoloji üzerine çalışan kâr amacı gütmeyen Common Sense Media, ChatGPT’nin gençlere yönelik korumalarını yaklaşık 4.000 etkileşimle değerlendirdi. Kurum, hizmeti 18 yaşından küçük kullanıcılar için kabul edilemez risk olarak niteledi. Education Week, bulguları aktardı ve değerlendirme sorumlusu Robbie Torney ile görüştü. Sınama, ebeveyn uyarılarını ve okul çalışmalarına destek için sunulan çalışma modunu içeren genç kullanıcı deneyimini kapsadı.[1], [2]
Ebeveyn uyarıları gecikti, çalışma modu aşılabildi
Genç kullanıcı gibi davranan sınamacılar, ebeveyn hesabına bağlı hesaplarda tehlikeli konuları bir saate kadar konuştu; ebeveyne uyarı gelmedi. Common Sense, hassas konularda haftalarca konuşma geçmişi olan daha eski hesaplarda uyarı oluşturulabildiğini saptadı.[1]
Çalışma modu da ödevin yanıtını gösterme seçeneği sunuyordu. Gençler bu özelliği kapatabiliyordu. Bulgular, değerlendirmede incelenen deneyimi kapsıyor.[1]
OpenAI yönteme itiraz ediyor, teknik sorunları öne sürüyor
OpenAI, Education Week’e verdiği yanıtta sınama yöntemine itiraz etti. Şirket, teknik sorunların ebeveyn bildirimleri dahil bazı korumaların düzgün devreye girmesini engellediğini savundu. Denemelerin, gençlere yönelik korumaların uygulamadaki işleyişini doğru yansıtmadığını belirtti. OpenAI, çalışma modunu çocuk gelişimi ve öğrenme bilimleri uzmanlarıyla gençlerden alınan görüşler doğrultusunda geliştirdiğini de bildirdi. Common Sense’in değerlendirme sorumlusu Robbie Torney ise yanıt düğmesinin öğrencilerin amaçlanan öğrenme sürecini aşmasını sağladığı görüşünde.[1]
