Eigen RadarYapay Zekâ
Analiz

Shyam Sankar, güvenli yapay zekâ ürünü tasarlama görevini üreticilere yüklüyor

Palantir’in teknoloji yöneticisi Shyam Sankar, güvenli yapay zekâ ürünleri tasarlama sorumluluğunun şirketlerde olduğunu savundu. 11 Ekim’deki röportajında, uygulamaların mevcut kurumlar ve sorumluluk hukuku üzerinden düzenlenmesini önerdi. Sektörün istihdam ve refah için yararlarını göstermesi gerektiğini de söyledi. Sunucu Margaret Brennan ise ticari çıkarların güvenlik önlemlerine bakışı etkileyebileceğini belirtti ve insanın teknoloji üzerindeki kontrolünü sorguladı.

Yapay Zekâ··Sabah
Shyam Sankar, röportaj koltuğunda sağa bakarak açık eliyle konuşma hareketi yapıyor; ön planda hafifçe bulanık bir lamba var.

Sankar, güvenli tasarım görevini üreticilere veriyor

Yazılım şirketi Palantir’in teknoloji yöneticisi Shyam Sankar, 11 Ekim’de Face the Nation programında yapay zekâ güvenliği hakkındaki görüşlerini açıkladı. CBS News’in kendi röportajında, güvenli ürün tasarlamanın mühendislik yükünü teknoloji şirketlerinin üstlenmesi gerektiğini savundu. Her türlü güvenlik önlemine karşı olduğu yorumunu reddetti. Üreticilerin güvenli tasarım sorumluluğunu başka bir tarafa bırakamayacağını söyledi.[1]

Düzenlemede uygulamanın esas alınmasını önerdi

Sankar, düzenlemede yapay zekânın kullanıldığı uygulamanın esas alınmasını önerdi. Tıbbi kullanımlar için ABD Gıda ve İlaç İdaresi’ni örnek gösterdi. Mevcut sorumluluk hukukunun başlangıç sağlayabileceğini savundu. Otomobil benzetmesinde, kusurlu ürünün üreticisi ile o ürünü kasıtlı zarar vermek için kullanan kişinin sorumluluğunu ayırdı. Sunucu Margaret Brennan, insan kontrolünün kaybolmasının bu karşılaştırmayı değiştirip değiştirmeyeceğini sordu; Sankar, insanların kontrolü koruduğunu ileri sürdü.[1]

Teknik güvenliğin yanında toplumsal yarar görevi de var

Sankar, sektörün seyahat planlama gibi küçük kolaylıkların ötesinde, istihdam artışı ve refah sağlayan yararları göstermesi gerektiğini söyledi. Brennan ise şirketlerin ticari çıkarları nedeniyle güvenlik önlemlerine karşı çıkabileceğini söyleyerek bu görüşü sorguladı. Aktardığı CBS anketinde yüzde 50, yapay zekânın çözdüğünden fazla sorun yaratacağını düşünüyordu; yüzde 29 tersini bekliyor, yüzde 21 ise bilmediğini söylüyordu. Ayrıca yüzde 45, yapay zekâ kullanımına ve geliştirilmesine devlet sınırlaması istiyordu.[1]

Kaynakça

  1. Haber kaynağıCBS NewsPalantir’in teknoloji yöneticisi, yapay zekâ ürünü güvenliğinde üreticinin sorumluluğunu savundu↩1↩2↩3