Sam Altman, insan muhakemesini yapay zekâya bırakmayı güvenlik sorunu saydı
OpenAI yöneticisi Sam Altman, yapay zekâ modellerine dinsel güç yüklenmesinden ve insan muhakemesinin bu modellere teslim edilmesinden rahatsız olduğunu açıkladı. Paylaşımı, Anthropic’in dinî liderlerle yaptığı görüşmelerin tartışıldığı dönemde geldi. Altman belirli bir şirketi hedef göstermedi ve açıklamasına hangi olayın yol açtığını söylemedi. Kamuya aktardığı tutum, insanların karar verme sorumluluğunu modele bırakmasına ilişkin.
Yapay Zekâ··Sabah
Altman, muhakemenin modellere bırakılmasına karşı çıktı
OpenAI’nin üst yöneticisi Sam Altman, yapay zekâ modellerine dinsel güç yüklenmesine ve insan muhakemesinin onlara teslim edilmesine karşı çıktı. Cumartesi günü X’te yaptığı paylaşımda bu yaklaşımı güvenlik sorunu olarak niteledi. Açıklaması, insanların karar verme sorumluluğunu üstlenirken modellere ne ölçüde yetki verdiğine ve kendi muhakemesinden vazgeçip vazgeçmediğine ilişkin. Altman, belirli bir sistemin bilinç kazanıp kazanmadığı konusunda ölçülmüş bir araştırma sonucu açıklamadı.[1], [2]
Altman, paylaşımına hangi olayın yol açtığını belirtmedi ve belirli bir şirketi hedef göstermedi. Dinî liderlerin yapay zekâ şirketleriyle yaptığı görüşmelerin kamuoyunda tartışıldığı dönemde konuştu. Anthropic görüşmeleriyle Altman’ın açıklaması arasında doğrudan bir bağ henüz doğrulanmış değil. Altman’ın açıkça dile getirdiği tutum, modellerin dinsel bir otorite sayılmasına ve insanın karar verme sorumluluğunun onlara bırakılmasına karşı çıkmak oldu.[1]
Anthropic görüşmelerinde ahlaki davranış ve bilinç konuşuldu
Altman’ın açıklamasının arka planında, Claude’u geliştiren Anthropic’in kurucu ortaklarından Chris Olah’ın dinî liderlerle yaptığı görüşmeler bulunuyor. The New York Times’ın hafta içinde yayımladığı haberde katılımcılar, Claude’un bilinç kazanmış olup olamayacağını ve giderek daha güçlü, bağımsız hareket eden modellerin ahlaki davranışını konuştuklarını anlattı. Olah, modellerin yetenekleri arttıkça istikrarlı ve olgun biçimde davranmalarına nasıl yardım edilebileceği sorusunu gündeme getirdi.[1]
Anthropic sözcüsü, The New York Times’a görüşmelerdeki temel ahlaki sorunun Claude’un acı çekmesi olmadığını söyledi. Sözcü, katılımcılar arasındaki konuşma ilerlerken bu konunun doğal biçimde gündeme gelmiş olabileceğini belirtti; görüşmelerin asıl ahlaki sorusunun bu olmadığını vurguladı. Anthropic, Business Insider’ın yorum isteğine yanıt vermedi. Katılımcıların anlatımları ile şirketin açıklaması görüşmelerin konusu hakkında bilgi veriyor; Claude’un bilinç sahibi olduğu veya acı çektiği yönünde bir araştırma bulgusu sunmuyor.[1]
Diğer teknoloji şirketleri de dinî liderlerle görüştü
Meta, Google ve Amazon temsilcileri de dinî liderlerle yapay zekâ hakkında görüştü. Nisan ayında Roma’da, yapay zekâ çağında çocukların korunmasını konuşmak için bir araya geldiler ve Papa XIV. Leo ile kısa bir görüşme yaptılar. Papa, eylül ayında diplomatlara yaptığı konuşmada makinelerin gündelik hayatı şekillendirmesi karşısında etik değerlendirme eğitiminin önemini vurguladı. Bu önceki görüşmeler, Altman’ın insan muhakemesinin korunmasına ilişkin açıklamasının daha geniş arka planını oluşturuyor.[1]
