Eigen RadarYapay Zekâ
Analiz

StepBack, yanıtı baştan yazmak yerine olası hatadan önceki düşünceyi koruyor

StepBack, akıl yürütmede olası hatanın başladığı yeri belirleyip önceki adımları koruyarak yeni devamlar üretiyor. Araştırmacılar yöntemi, yanıtları baştan tekrar tekrar yazdırıp en sık sonucu seçen yaklaşımla karşılaştırdı. Yedi matematik ve çok adımlı soru yanıtlama sınamasında aday yanıt sayısı sabit tutuluyor. Model yeniden eğitilmiyor; değişen şey yanıt üretirken yapılan örnekleme. Başlarda yanlış seçilmiş bir yolun korunması ise güç sorularda yöntemi sınırlayabiliyor.

Yapay Zekâ··Gece
North Carolina State Üniversitesi’nde üç araştırmacı, kapalı dosyalar ve ters çevrilmiş çıktılar bulunan bir toplantı masasında dil modeli akıl yürütme yöntemini tartışıyor.

Yeni devam üretilirken önceki düşünce korunuyor

North Carolina State Üniversitesi araştırmacılarının yanıt üretimi için geliştirdiği StepBack, taslak yanıtta olası hatanın yerini bulup oradan yeni bir devam yazdırıyor. Hatadan önceki düşünce adımları korunuyor. Karşılaştırılan öz tutarlılık yaklaşımı ise tam akıl yürütme zincirleri üretip en sık çıkan son yanıtı seçiyor. StepBack de son yanıtlara göre oylama yapıyor, ancak daha az taslakla başlayıp yeni adayları oluştururken bu taslakların başlangıç bölümlerini kullanıyor.[1]

Geri dönülecek adım iki sinyalle seçiliyor

Yeniden üretimin başlayacağı adım, sözcük parçalarının modelce hesaplanan olasılığındaki değişimle ya da düşünce sürecini puanlayan ayrı modelin verdiği düşüşle belirleniyor. Açık hata sinyali bulunmadığında yalnızca son yanıt adımı yeniden örnekleniyor. Ana karşılaştırmada on altı taslağın hem özgün yanıtı hem bir yeni devamı alınarak otuz iki aday korunuyor. Dolayısıyla daha az metin üretilmesi aday sayısının azaltılmasından kaynaklanmıyor. Uygulama adımları boş satırlardan ayırıyor ve yanıt üreten modelin ağırlıkları yeniden eğitilmiyor.[1]

Sınamalar matematiği ve çok adımlı soruları kapsıyor

Yedi sınama, Qwen2.5 ve Llama3.2 ailelerinden modellerle matematiksel akıl yürütmeyi ve çok adımlı soru yanıtlamayı kapsıyor. Yazarlar, daha az metinle öz tutarlılığa yakın ortalama doğruluk bildiriyor; sonuçlar model ve görev eşleşmesine göre değişiyor. Güç sorularda, korunmuş başlangıçtaki eski bir kararın da değiştirilmesi gerekebiliyor. Rastgele noktaya dönüş ve yalnızca son adımı yeniden yazma karşılaştırmaları da hata yerini bulmanın katkısını inceliyor.[1]

Kaynakça

  1. Haber kaynağıarXiv / North Carolina State UniversityStepBack, bütün yanıtı yeniden üretmek yerine olası hata adımına dönüyor↩1↩2↩3