Zeta, gençlere günlük sohbet ve aylık ödeme sınırı getirecek
ScatterLab, yapay zekâ karakter sohbeti hizmeti Zeta’yı kullanan gençler için yıl sonuna kadar varsayılan sınırlar getirmeyi planlıyor: günde üç saat kullanım ve ayda 100.000 won ödeme. Hizmet süre dolmadan ara vermeyi önerecek, sınıra ulaşınca işlemleri kısıtlayacak. Duyuru, mevcut korumaların her zaman engelleyemediği zararlı konuşmalara yönelik incelemelerin ardından geldi.
Yapay Zekâ··Akşam
Gençler için varsayılan sınırlar planlanıyor
Güney Koreli ScatterLab, yapay zekâ karakter sohbeti hizmeti Zeta’da genç hesaplar için yeni denetimleri 12 Ekim’de duyurdu. Yıl sonuna kadar günde üç saatlik varsayılan kullanım ve ayda 100.000 wonluk ödeme sınırı planlanıyor. Süre dolmaya yaklaşınca uygulama ara vermeyi önerecek. İlgili sınırlara ulaşıldığında hizmet kullanımı ve ödemeler kısıtlanacak. Bunlar bugün yürürlükte olan kurallar değil, planlanan denetimler.[1], [2]
Zeta’da kullanıcılar karakter ve kurmaca dünya oluşturup bu ortamda yapay zekâyla konuşabiliyor. Kyunghyang Shinmun, eylül sonunda 1,48 milyon aylık etkin kullanıcı bulunduğunu, bunların 380.000’inin 19 yaşında veya daha küçük olduğunu bildiriyor. Bu sayılar zarar gören gençlerin veya yeni sınırlara ulaşacak kişilerin sayısı değil, platformun kullanıcı kitlesi. Planlanan önlemler kullanım süresini ve harcamayı ayrı ayrı ele alıyor.[1]
Mevcut korumalar aşılabildi
Hizmetin mevcut güvenli modu, gençler için zararlı sayılan içeriği kısıtlıyor. Daha serbest sınırsız mod, yalnız kimlik doğrulamasıyla yetişkin olduğu belirlenenlere açılıyor. Arayüz, sohbet edilen kişinin yapay zekâ olduğunu sürekli gösteriyor. İntihar veya kendine zarar verme ifadeleri tekrarlandığında profesyonel danışmanlık kuruluşlarına ilişkin bilgi sunulabiliyor. ScatterLab yeni süre ve ödeme sınırlarını bu içerik ve kimlik denetimlerine eklemeyi planlıyor.[1]
Demokrat Parti Milletvekili Hwang Jung-ah’ın ofisi, küçük yaştaki karakterlerin yer aldığı güvenli mod senaryolarını inceledi. Cinsel şiddet, sömürü ve tehdit içeren bazı konuşmalar üretildi. Zararlı konuşma algılayıcısı incelemede yaklaşık 200 sorunlu ifadeyi engelledi; ancak kısıtları aşma denemeleriyle bazı zararlı içerikler yine gösterildi. Aktarılan deneme korumalardaki açığı ortaya koyuyor; sıradan kullanıcıların bu içerikle ne sıklıkta karşılaştığını ölçmüyor.[1]
Model ve denetim değişiklikleri de duyuruldu
ScatterLab milletvekilinin ofisine, anlatım düzeyini kullanıcının yaşına uydurmak için hikâye oluşturma aşamasından başlayarak üretim modelini değiştireceğini bildirdi. Engelleri aşmaya çalışan istemlere karşı eğitim ve konuşmanın bütününü dikkate alan yeni algılayıcı da planlanıyor. Her ay saldırgan denemelerle güvenlik kontrolü yapılması öngörülüyor. Bu çalışmalar incelemede görülen içerik sorunlarına, ayrı varsayılan sınırlar ise kullanım süresine ve ödemeye yöneliyor.[1]
Şirket Başkanı Kim Jong-yoon, gençlerin güvenli ve sağlıklı kullanımını öncelik saydıklarını, kullanıcıların korunması konusunda kamu ve sektörle görüşmeleri sürdüreceklerini söylüyor. ScatterLab, planı belirlemeden önce başka sayısal hizmetlerin yaklaşımlarını incelediğini belirtiyor. Açıklanan önlemlerin yıl sonuna kadar uygulanması bekleniyor. Bu iki haberde gelecekteki sınırların Zeta kullanımını veya zararlı konuşmaları nasıl etkileyeceğine dair sonuç bulunmuyor.[1], [2]
