Anthropic, eylemcilerin sakladığı notları nasıl düzelttiğini sınadı
Anthropic, yapay zekâ eylemcilerinin oturumlar arasında sakladığı bilgileri konu alan deneylerini yayımladı. Şirket, notları eski konuşmalarla karşılaştırarak düzeltmeyi ve belge koleksiyonlarını bağlantılı sayfalar hâlinde düzenlemeyi inceledi. Deneyler, yararlı bilgiyi hatırlamakla yanlış bilgiyi tekrar tekrar kullanmak arasındaki farkı ele alıyor. Sonuçlar göreve ve bilgilerin nasıl düzenlendiğine göre değişiyor.
Yapay Zekâ··Akşam
Saklanan notlar hataları sonraki oturuma taşıyor
Claude’u geliştiren Anthropic, eylemcilerin oturumlar arasında sakladığı bilgiler üzerine kendi deneylerini yayımladı. Buradaki bellek, sonraki oturumun okuyabildiği dosya ve notlardan oluşuyor. Pokémon oyunundaki bir deneyde yanlış konum notu, eylemciyi tekrar tekrar yanlış yöne götürdü. Notun ilk konuşma dökümüyle karşılaştırılması, devam etmeden önce hatanın düzeltilmesini sağladı. Şirket, arka planda notları yeniden düzenleyen bu işlemi dreaming olarak adlandırıyor. Modelin ağırlıkları bu işlem sırasında değişmiyor.[1]
Bağlantılı sayfalar büyük belge koleksiyonlarında yol gösteriyor
Başka deneylerde bilgiler, bir konuyu özetleyen ve ilgili notlara bağlantı veren bilgi sayfaları hâline getiriliyor. Koleksiyonlardan biri, yazılım şirketi Stainless’ten yaklaşık 350.000 dosya içeriyor ve 25 soruyla sınanıyor. Anthropic, doğrudan aramayı bu sayfalarla ve iki yöntemin birlikte kullanılmasıyla karşılaştırıyor. Hukuki belge görevlerinde ise farklı belgelerden bilgi birleştiren sorularla tek dosyadan yanıtlanabilen sorular ayrı ele alınıyor. Bağlantılı sayfaların yararı, sorunun gerektirdiği işleme göre değişiyor.[1]
Ortak düzenleme, bellekte neyin kaldığını değiştiriyor
Ortak bir sözleşme tablosunu düzenleyen eylemciler bazen birbirlerinin bilgilerini sildi. Her sözleşmeye ayrı sayfa ayıran düzen, bu sorunu ele aldı. Başka bir görevde oluşturulan bilgi sayfaları, özetlediği belgelerden daha uzun hâle geldi. Şirket, yanlış notların her yeni oturuma önceden yüklenmesi tehlikesini de inceliyor. Tek şirket yayınına dayanan bu örnekler, belirli görevlerde belleğin bakımını araştırıyor; yeni bir tüketici özelliğinin açılışı olarak sunulmuyor.[1]
