Hatanın yerini değiştirmek
Bir blok dizisinin içindeki harfleri açığa çıkarmak, robot için küçük bir araştırma problemi yaratıyor. Hangi bloğun çevrileceğini seçmek gerekiyor; ardından tutucu o hareketi gerçekleştirmeli. Ai2’nin ToyBlocks ortamı bu iki işi ayrı deneylere dönüştürüyor. Araştırmacı, yüksek düzeyli planı veya alt düzeyli hareketi bilinen bir bileşenle değiştirerek hatanın hangi aşamada ortaya çıktığını inceleyebiliyor. Benim için çalışmanın asıl değeri bu müdahale imkânı: tek bir sonuç puanının içinde kaybolan hata kaynaklarını görünür hâle getiriyor.[1]
Düzenek, uzun görevleri itme, çevirme ve üst üste koyma gibi becerilerden kuruyor. Yüksek düzeyli planlayıcı bir beceri ve hedef seçerken hareket denetleyicisi fiziksel uygulamayı üstleniyor. Bu ayrım, bir yöntem değişikliğini sınamak için kullanışlı. Aynı görevlerde yalnızca planlayıcı değiştirilirse ortaya çıkan fark daha dar bir soruya yanıt verir. Yine de plan ile hareket arasındaki arayüzün belirli bir yönteme daha uygun olması alternatif açıklama olarak kalır. Bir bileşeni değiştirmek, bütün deney koşullarını kendiliğinden eşitlemez.[1]
Deney dünyasının sınırı
Ai2, 85.336 uzun görev gösterimini ve bunlarla ilişkili eğitim ile değerlendirme araçlarını yayımlıyor. Otomatik görev ve hareket planlama, veri üretiminin bir parçası. Blok boyutu, sürtünme, masa yüksekliği ve ışığın değiştirilebilmesi de aynı ortamı farklı koşullarda sınama imkânı sağlıyor. Bu, yalnızca çok veri toplama meselesi değil. Araştırmacı hangi değişkenin değiştiğini belirlediğinde, öğrenilen becerinin o değişkene ne kadar bağlı olduğunu sorabiliyor. Kontrollü bir ortamın bilimsel gücü, kapsadığı dünyanın büyüklüğünden önce bu karşılaştırmanın açıklığında yatıyor.[1]
Gerçek robot kısmında ise örneklem daha dar: Franka FR3 kolu ve Robotiq tutucuyla otuz sahne, sahne başına dört ila on tanıdık blok. Çarpışma veya insan müdahalesi başarısızlık sayılıyor. Böyle bir tanım, hangi olayın sonuca girdiğini açıklıyor. Buna karşılık tanıdık bloklarla kurulan sahnelerden, bilinmeyen nesnelerle dolu evlere geçiş büyük bir kapsam değişikliği. Laboratuvarın kendi ölçümlerini okurken fiziksel kol, nesne kümesi ve görev dağılımını sonucun yanında tutmak gerekiyor; bunlar örneklemin sınırları.[1]
Yeniden kurulan karşılaştırma
Yayımlanan modeller ve kod, başkalarının aynı düzeneği inceleyebilmesi açısından değerli. Ancak mevcut paketin bütünleşik pekiştirmeli öğrenme eğitimi içermemesi de yapılabilecek deneyi sınırlıyor. Bu eksik parça gelecek çalışma olarak belirtilmiş. Açık malzeme, bir karşılaştırmanın yeniden kurulmasını kolaylaştırır; bağımsız bir ekibin aynı koşullarda aynı sonucu elde etmesi ise ayrı bir bulgudur. Tasarımın neyi açıkça sunduğunu bilmek, hangi sorunun bugün sınanabilir olduğunu belirlemeye yardımcı olur.[1]
Bu ortam için ikna edici bir sonraki karşılaştırma, aynı görevleri ve aynı müdahale ölçütünü koruyarak planlayıcıyı değiştirmek; ardından aynı sistemi önceden belirlenmiş yeni blok ve koşullarda sınamak olur. İlk adım farkın nereden geldiğini, ikincisi ne kadar taşınabildiğini araştırır. Oyuncak dünyanın küçüklüğü bu ilk soruya yardımcı olabilir. Genelleme sorusunu yanıtlamak içinse değişen koşulların açıkça tanımlanması gerekir. Böylece tek bir başarı oranından beklenen iki ayrı iş, hata kaynağını bulmak ve kapsamı genişletmek, kendi deneylerine kavuşur.[1]