Eigen RadarYapay Zekâ
Arşiv
Analiz

Yapay zekâ metinlerinde anlamayı zorlaştıran dil yapıları daha sık görüldü

14 yapay zekâ modelinin metinlerini inceleyen çalışma, anlamayı zorlaştırmayla ilişkilendirilen alışılmadık sözcük birleşimleri ve sıkıştırılmış yan tümceler gibi yapıların sık kullanıldığını buldu. İnsan yazıları ve yeniden anlatılmış örnekler karşılaştırmaya alındı. Ayrı bir küçük model deneyinde uzun yanıtlara verilen ceza, dilbilgisel tercihleri değiştirdi. Araştırma, insanların okuma hızını veya metni ne kadar anladığını doğrudan ölçmedi.

Yapay Zekâ··Öğle
Temsili bir veri merkezi sahnesinde, raylar üzerinde açılmış sunucu kasasının soğutucuları, bellek kartları ve kabloları; arkada aydınlık koridor boyunca sıralanan raflar.

Bir dil çalışması yapay zekâ metinlerinin anlaşılmasını araştırdı

Dil araştırmacıları Thomas Hikaru Clark, Matias B. Martin ve Kyle Mahowald, yapay zekânın ürettiği metinlerde anlamayı güçleştirmeyle ilişkilendirilen dil yapılarını araştırdı.[1], [2]

Çalışma, modellerin hangi dilbilgisel seçeneklere yöneldiğini karşılaştırmalar ve ayrı bir eğitim deneyiyle inceliyor. İncelemenin konusu, üretilen dilin yapısı. Araştırmacılar, cümlelerin yalnız uzunluğuna bakmak yerine sözcüklerin birbiriyle nasıl bağlandığını ve hangi anlatım biçimlerinin tercih edildiğini ele aldı.[1]

Derleme, sohbet, kodlama ve deneme yazma görevlerinde 14 model çeşidini kapsadı. Her görevde aynı sayıda model yer almadı: sohbette 12, kodlamada dokuz, deneme yazımında 14 model sınandı. Araştırmacılar, dili işlerken güçlük yaşanmasıyla ilişkilendirilen altı özellik grubunu ölçtü. Dilbilgisel bağı bulunan sözcükler arasındaki uzaklık, üst üste yığılmış adlar, alışılmadık sözcük birleşimleri ve isteğe bağlı sözcükleri çıkarılmış yan tümceler bu gruplar arasındaydı.[1]

İnsan yazıları ve yeniden anlatımlar karşılaştırıldı

İnsan yazılarıyla karşılaştırma için altyazı derlemesi OpenSubtitles, soru ve yanıt platformu StackExchange ve öğrenci denemeleri kullanıldı. Wikipedia da ek bir karşılaştırma sağladı. Araştırmacılar ayrıca NLLB-200 adlı çeviri modeliyle İngilizce metni Japoncaya, ardından yeniden İngilizceye çevirdi. Bu gidiş dönüş, içeriği yaklaşık olarak korurken anlatımı değiştiren örnekler sundu. Böylece modelin ilk çıktısı, benzer anlamı başka bir cümle yapısıyla veren metinle karşılaştırılabildi.[1]

Önde gelen modellerde alışılmadık sözcük birleşimleri, addan türetilmiş fiiller ve canlılara özgü fiillerle kullanılan cansız özneler daha sık görüldü. Kısaltılmış yan tümceler de bu eğilimler arasındaydı. Bazı Olmo ve Llama çeşitlerinde etkiler daha zayıf kaldı. Ölçülen dil özelliklerinin anlama güçlüğüyle ilişkisi önceki araştırmalara dayanıyor. Bu çalışma, insanların oluşturulan metinleri okuma hızını veya ne kadar anladığını doğrudan sınamadı.[1]

Uzunluk cezası küçük modelin dilbilgisel tercihlerini değiştirdi

Ayrı deneyde, küçük dil modeli Qwen2.5-1.5B-Instruct yapılandırılmış olay açıklamalarını cümlelere dönüştürmek için uyarlandı. Uzun çıktılara verilen ceza arttıkça model, daha kısa dilbilgisel seçenekleri daha sık seçti. Tercih değişimi, eğitimde gösterilmeyen bazı yapılarda da görüldü. İlgisiz dilbilgisel yapılara aktarım ise daha zayıftı; belirli bir eğitim koşulunda yalnızca iyelik yapısında ortaya çıktı. Deney, uzunluk cezasının dilbilgisini değiştirebildiğine ilişkin sınırlı bir örnek sunuyor. Ticari modellerin eğitim süreçleri için önerilen açıklama ise araştırmacıların varsayımı olarak kalıyor.[1]

Kaynakça

  1. Haber kaynağıUnite.AIYapay zekâ metinlerinde anlamayı zorlaştıran dil yapıları incelendi
    Birincil ön baskıarXivYapay zekânın ürettiği dili anlamak neden bu kadar zor?
    ↩1↩2↩3↩4↩5↩6
  2. Haber kaynağıEMSIYapay zekâ metinleri üzerine çalışma, okumayı zorlaştıran dil yapılarını inceliyor↩
YZ güvenliği ve regülasyonSınır modeli yarışı

Aynı masadan diğer analizler

Yapay Zekâ masasındaki tüm Gündem analizlerini görüntüle →