Eigen RadarYapay Zekâ
Analiz

OpenAI, çocuk istismarına karşı görüntü taraması ve ChatGPT uyarıları ekliyor

OpenAI, yeni oluşturulmuş içerikler de dahil olmak üzere olası çocuk cinsel istismarı görüntülerini işaretlemeyi amaçlayan bir aracı seçilmiş kuruluşlara sunuyor. ChatGPT’ye caydırıcı uyarılar ve destek kaynaklarına yönlendirme ekleniyor. Duyuru, görüntü saptamayı hesap kısıtları ve geliştirici rehberiyle bir araya getiriyor. Böylece mevcut yasaklara hem inceleme ekipleri hem de kullanıcı davranışına müdahale için yeni araçlar ekleniyor.

Yapay Zekâ··Gece
Çocuk güvenliği eğitim stüdyosunda arkadan görünen bir eğitmen ve iki inceleme uzmanının kavisli ahşap konsoldaki öncelik puanlama arayüzünü incelediği alt açı geniş görünüm.

Yeni görüntüler insan incelemesine yönlendirilecek

OpenAI, yapay zekâyla üretilmiş görüntüler dahil olası çocuk cinsel istismarı içeriğini saptamak üzere bir görüntü sınıflandırıcısı duyurdu. ChatGPT’ye de uyarılar ekleniyor.[1], [2]

Araç, seçilmiş kuruluşlara uygulama programlama arayüzü üzerinden ücretsiz sunuluyor. Görüntülere puan vererek insan inceleme ekiplerinin öncelik belirlemesine yardım ediyor. Daha önce tanımlanmış dosyaları tanıyan sayısal iz eşleştirmesini tamamlıyor. ABD’de çocukların korunması için çalışan National Center for Missing and Exploited Children, sınıflandırıcı çalışmasına katılıyor.[1]

ChatGPT uyarıları desteğe yönlendirecek

Yeni uyarı ekranları, yasak içeriği arayanlara yol açılan zararı açıklıyor ve onları uzman desteğine yönlendiriyor. Hesaba erişim 24 saat durdurulabiliyor; kurallara tekrar tekrar uyulmaması hesabın kalıcı olarak kapatılmasına yol açabiliyor. OpenAI, iletileri çocukları koruma kuruluşları ve araştırmacılarla geliştirdi. Bu çalışmada çocuk cinsel istismarını önlemeye çalışan Lucy Faithfull Foundation da yer alıyor.[1]

Geliştirici rehberi önleme ve bildirimi kapsıyor

Geliştirici rehberi, istismar içeriğini önleme, saptama ve ilgili kuruluşlara bildirme uygulamalarını kapsıyor. OpenAI ayrıca çocukların korunması üzerinde çalışan kolluk ekipleri için eğitim, saha rehberi ve veri inceleme araçları sunuyor. Bu araçlara erişimi program yöneticileri denetliyor. Sınıflandırıcı ve hesaba yönelik müdahaleler, ChatGPT’nin yasak içeriğe karşı mevcut engellerine ekleniyor.[1]

Kaynakça

  1. Haber kaynağıTechCrunchOpenAI, çocuk istismarını saptayan görüntü sınıflandırıcısını kuruluşlara açıyor↩1↩2↩3↩4
  2. Haber kaynağıFox NewsOpenAI, çocukların korunması için saptama aracı ve ChatGPT uyarıları duyurdu↩