Yeni ölçümler, yapay zekâ tartışmalarında değerlerin nasıl sürdürüldüğünü izliyor
Yeni bir ön baskı, insan ve yapay zekâ tartışmalarını başvurdukları değerler ve bu değerlerin konuşma boyunca nasıl sürdürüldüğü üzerinden karşılaştırıyor. Yapay zekâ metinleri insan örnekleri kadar değer boyutuna değinebilirken bunları farklı biçimde düzenliyor. Çince tartışma dökümlerini kullanan yöntem, metindeki değer ifadelerini doğruluk, ikna gücü ve modelin iç inançlarından ayrı değerlendiriyor.
Yapay Zekâ··Akşam
Değerler konuşmanın her aşamasında izleniyor
Yeni bir arXiv ön baskısı, yapay zekânın ürettiği tartışmalarda dile getirilen değerleri incelemek için bir yöntem öneriyor. Çalışma, on temel değeri sınıflandıran Schwartz kuramını kullanıyor. Her gerekçe birimi, savunulan görüşe ait bir iddiayı onu destekleyen metin parçasıyla eşleştiriyor. Birime tek etiket yerine değerler arasında bir dağılım atanıyor. Dağılımlar, konuşma sıraları, görüşler ve bütün tartışma düzeyinde birleştiriliyor. Bulgular tek bir ön baskıda sunuluyor.[1]
İnsan ve yapay zekâ metinleri değerleri farklı düzenliyor
Karşılaştırmada Çince rekabetçi tartışma dökümleri, aynı sayıda konuşma sırasıyla üretilen metinlerle eşleştiriliyor. Genel amaçlı dil modelleri ile tartışma sistemi R-Debater sınanan sistemlerden bazıları. Bulgularda yapay zekânın ürettiği tartışmalar, anılan değer boyutlarının sayısı bakımından insan örneklerine yetişiyor veya onları geçiyor. Ancak değerlerin tek konuşma içindeki dağılımı ve bir görüş boyunca korunması farklılaşıyor. Kapsam, insan örneğiyle uyum, yerel yayılma, kararlılık ve kayma ayrı ölçülüyor.[1]
İnsan değerlendirmesinde açıklık ve odak ayrı soruluyor
İnsan değerlendirmesinde, metni hangi sistemin ürettiği açıklanmadan değerlerin açıklığı ve odağı ayrı soruluyor. İnsanların verdiği etiketlerle, otomatik çıkarılan gerekçeler ve değer sınıflandırmaları denetleniyor; örtük ya da kültüre bağlı ifadelerde hata ihtimali sürüyor. Dağınık bir dağılım birden fazla bakış açısını da yansıtabilir. Yöntem, modelin iç inançlarını değil metinde görünen değerleri betimliyor. Sabit konuşma sırası tasarımı, canlı tartışmalardaki kesintileri ve dinleyici tepkilerini sadeleştiriyor.[1]
