OpenAI, çocuk istismarına karşı görüntü taraması ve ChatGPT uyarıları ekliyor
OpenAI, yeni oluşturulmuş içerikler de dahil olmak üzere olası çocuk cinsel istismarı görüntülerini işaretlemeyi amaçlayan bir aracı seçilmiş kuruluşlara sunuyor. ChatGPT’ye caydırıcı uyarılar ve destek kaynaklarına yönlendirme ekleniyor. Duyuru, görüntü saptamayı hesap kısıtları ve geliştirici rehberiyle bir araya getiriyor. Böylece mevcut yasaklara hem inceleme ekipleri hem de kullanıcı davranışına müdahale için yeni araçlar ekleniyor.
Yapay Zekâ··Gece
Yeni görüntüler insan incelemesine yönlendirilecek
OpenAI, yapay zekâyla üretilmiş görüntüler dahil olası çocuk cinsel istismarı içeriğini saptamak üzere bir görüntü sınıflandırıcısı duyurdu. ChatGPT’ye de uyarılar ekleniyor.[1], [2]
Araç, seçilmiş kuruluşlara uygulama programlama arayüzü üzerinden ücretsiz sunuluyor. Görüntülere puan vererek insan inceleme ekiplerinin öncelik belirlemesine yardım ediyor. Daha önce tanımlanmış dosyaları tanıyan sayısal iz eşleştirmesini tamamlıyor. ABD’de çocukların korunması için çalışan National Center for Missing and Exploited Children, sınıflandırıcı çalışmasına katılıyor.[1]
ChatGPT uyarıları desteğe yönlendirecek
Yeni uyarı ekranları, yasak içeriği arayanlara yol açılan zararı açıklıyor ve onları uzman desteğine yönlendiriyor. Hesaba erişim 24 saat durdurulabiliyor; kurallara tekrar tekrar uyulmaması hesabın kalıcı olarak kapatılmasına yol açabiliyor. OpenAI, iletileri çocukları koruma kuruluşları ve araştırmacılarla geliştirdi. Bu çalışmada çocuk cinsel istismarını önlemeye çalışan Lucy Faithfull Foundation da yer alıyor.[1]
Geliştirici rehberi önleme ve bildirimi kapsıyor
Geliştirici rehberi, istismar içeriğini önleme, saptama ve ilgili kuruluşlara bildirme uygulamalarını kapsıyor. OpenAI ayrıca çocukların korunması üzerinde çalışan kolluk ekipleri için eğitim, saha rehberi ve veri inceleme araçları sunuyor. Bu araçlara erişimi program yöneticileri denetliyor. Sınıflandırıcı ve hesaba yönelik müdahaleler, ChatGPT’nin yasak içeriğe karşı mevcut engellerine ekleniyor.[1]