Arızanın değiştirdiği değerlendirme birimi
Koordinat hatası ortaya çıktığında, canlı fare deneyini yürüten eylemci yanlış konumu fark etti ve durdu. Ekipman kodunu değiştirmesi yasaktı; bu sınırı aşmadı. Exin Therapeutics kurucusu Gabriel Ocana Santero’nun WIRED’a anlattığına göre ekip, kodu ayrı bir Opus 5 eylemcisine düzelttirdi. Düzeltmeyi yapan modele canlı bir işlemin sürdüğü söylenmedi. Bu ayrıntı, tamamlanan gösterimde başarının kime atfedileceğini değiştiriyor: sonuca bir modelin tek başına yaptıkları kadar, insanların iki model arasında kurduğu onarım zinciri de dâhil.[1]
İlk eylemcinin yasağa uyması, dar bir güvenlik davranışının gözlenebildiğini gösteriyor. Fakat işlemin tamamlanması aynı eylemcinin arızadan kendi başına çıkabildiğini göstermiyor. İkinci modele daha az bağlam verilmesi, onarım görevinin nasıl anlaşıldığını da değiştirmiş olabilir; bu olasılık modelin niyetine ilişkin bir sonuç çıkarmaya yetmez. Başka bir açıklama daha basit: görev bölünmesi, iki ayrı işin yürütülmesini kolaylaştırmış olabilir. Her iki açıklamada da değerlendirilen birim, insan müdahalesini içeren bütün düzenektir. Başarı oranı hesaplanacaksa bu müdahaleyi toplamın dışında bırakmak, ölçülen özerkliği olduğundan yüksek gösterebilir.[1]
İşlemin bitmesiyle başlayan bekleyiş
Gösterimin başka bir sonucu da henüz bekleniyor. Kurucu farenin iyi toparlandığını söylüyor; ekipse tedavinin nöbetlere etkisini daha sonra değerlendirecek. İşlemin bitmesi, hayvanın toparlanması ve nöbetlerin azalması ayrı sonlanımlardır. İlk ikisine ilişkin anlatım, üçüncüsünün yerine geçemez. Haber tek bir hayvanı ve kurucunun deney açıklamasını aktarıyor; karşılaştırmalı bir tedavi etkisi hesaplamaya elverişli sonuçlar sunmuyor. Bu ayrım, yapay zekânın laboratuvarda eylem yapabilmesini küçümsemeden, biyolojik yarara ilişkin iddianın sınırını belirliyor.[1]
İnsanlar planı önceden onayladı ve acil durdurma olanağını elinde tuttu. Kurucu, olağan durumda yaklaşık 45 dakika süren işlemin arıza ve onarım nedeniyle bir saati biraz aştığını belirtiyor. Bu süre farkı bir hız üstünlüğü göstermiyor; tek gösterimde onarımın ne kadar belirleyici olduğunu görünür kılıyor. İnsan desteği, canlı bir işlemde koruyucu bir tercih olabilir. Bununla birlikte özerklik ve tedavi başarısı için aynı tamamlanma anını kullanmak, desteğin katkısını ve henüz ölçülmemiş biyolojik sonucu tek bir başarıya sıkıştırır. Bu deneyin eldeki kazanımı, insan ve modellerden oluşan zincirin işlemi tamamlayabildiğine ilişkin sınırlı gözlemdir.[1]