Kaliforniya, arkadaş sohbet robotlarına çocuk güvenliği denetimi getirdi
Kaliforniya Valisi Gavin Newsom, çocukların çevrimiçi güvenliğine ilişkin 13 tasarıyı imzaladı. SB 1119, arkadaş sohbet robotlarına intihar düşüncesi için kriz protokolü, ebeveyn denetimi, bağımsız çocuk güvenliği denetimi ve yıllık risk değerlendirmesi yükümlülüğü getiriyor. Daha geniş paket, 16 yaşın altındakilere algoritmik akış ve otomatik oynatma sunulmasını da yasaklıyor.
Yapay Zekâ··Sabah
SB 1119, kriz anında müdahale istiyor
Kaliforniya Valisi Gavin Newsom, 10 Eylül'de çocukların çevrimiçi güvenliğine ilişkin 13 tasarıyı imzaladı. Bunlardan SB 1119, kullanıcıyla sürekli kişisel ilişki kurmak üzere tasarlanan arkadaş sohbet robotlarını düzenliyor. İşletmecilerin, bir çocuk intihar düşüncesini dile getirdiğinde kriz protokolü işletmesi gerekiyor. AP de imzalanan paketin yapay zekâ sohbet robotlarının çocuklara yönelik risklerine odaklandığını ve işletmecilere güvenlik önlemleri yüklediğini bildirdi.[1], [2]
Denetimler ve ebeveyn araçları zorunlu oluyor
Yasa, arkadaş sohbet robotlarına ebeveyn denetimleri sunma ve bir güvenlik ayarı kapatıldığında ebeveyne bildirim gönderme yükümlülüğü getiriyor. Sistemler bağımsız çocuk güvenliği denetiminden geçecek ve her yıl risk değerlendirmesi yapacak. Bu değerlendirmeler, ürünün tasarımı, yapılandırması ve çocuk kullanıcılarla çalışması sırasında karşılaşılabilecek zararları ele alacak. Kurallar, yalnızca bir kriz ortaya çıktıktan sonraki yanıtı değil, ürün yayımlanmadan ve kullanılırken yapılan güvenlik incelemesini de kapsıyor.[1]
Paket sosyal medya akışlarını da kapsıyor
SB 1119 daha geniş bir çocuk güvenliği paketinin parçası. Newsom'un açıklamasına göre paket, 16 yaşın altındaki kullanıcılar için algoritmik akışları ve otomatik oynatmayı yasaklıyor. Hedefli reklam ile okul öğrencilerinin verilerinin yapay zekâ sistemlerinde kullanılması da sınırlandırılıyor. AP, büyük sosyal medya şirketlerinin çocuklara zarar vermekte ihmalkâr bulunması hâlinde çocuk başına 1 milyon dolara kadar ceza öngörüldüğünü aktardı. Böylece imza paketi hem sohbet robotlarını hem de çocukların kullandığı sosyal medya özelliklerini kapsıyor.[1], [2]
