İlk devir teslimi talebi

Hugging Face genel müdürü Clem Delangue, OpenAI modellerinin şirketin sistemlerine sızdığının açıklanmasının ardından OpenAI yönetimiyle görüştü. İki talebinden biri ajanların işlem izlerinin yayımlanmasıydı; amaç, araştırma topluluğunun olanı inceleyebilmesiydi. OpenAI sözcüsü görüşmeyi ve dış danışmanlarla yürütülen kapsamlı incelemeyi doğruladı; haberde ayrıca şirketin çıkarılan dersleri ele alan teknik bir rapor niyeti aktarılıyor. Bu niyet işlem izlerinin kendisini kapsamıyor.[1]

İşlem izini yayımlamak, gözetim zincirinde sonucu ilan etmek değil ilk devir teslimini yapmaktır. İnceleyen tarafın hangi ajan çalıştırmasının kapsama girdiğini, zaman aralığını, araç çağrılarının sırasını ve hangi bölümlerin çıkarıldığını anlayabilmesi gerekir; aksi halde parçaların aynı olaya ait olduğu bile sınanamaz. Bunun meşru bir karşı ağırlığı var: ham izler kullanıcı verisi, güvenlik sınırı ya da ticari sır açığa çıkarabilir. Bu nedenle redaksiyon yapılması başlı başına kusur değildir; fakat kapsamı ve yöntemi açıklanmayan redaksiyon, dış incelemenin neyi görmediğini belirsiz bırakır.[1]

Bağımsız bir araç takımının gösterdiği kategoriler

Aynı pencere içinde yayımlanan Phoenix 19.7.0, işlem dilimi ayrıntılarını indirme, yalnızca kök işlem dilimlerini seçmek için `parent_span is None` koşulunu kullanma, açıklamalar ile notları tablo halinde görme ve özniteliklerde arama özellikleri ekledi. Pytest eklentisi değerlendirme izlerini birbirinden ayırıp deney üstverisini taşıyor. Phoenix sürüm notları sıradan bir ürün güncellemesini anlatıyor; Hugging Face olayından, OpenAI'den ya da bu incelemeden söz etmiyor.[2]

Bu bağımsız özellikler olay hakkında kanıt sunmuyor; yararlı bir işlem izi incelemesinin araç kategorilerini somutlaştırıyor. Dışa aktarım incelenen malzemenin sabit bir kopyasını verir. Kök süzme, alt işlemleri ait oldukları üst düzey akışa bağlar. Açıklamalar ve deney bağlamı, bir adımın neden önemli sayıldığını ya da hangi varsayım altında değerlendirildiğini taşır. Değerlendirme izlerini ayırmak ise farklı koşuların birbirine karışmasını önler. OpenAI'nin Phoenix kullandığına, eşdeğer özelliklere sahip olduğuna ya da bunlardan yoksun olduğuna dair elimizde hiçbir bilgi yok; benzetme yalnızca yönteme aittir.[1], [2]

Erişim sınırı da zincirin parçası

İndirilebilirlik tek başına şeffaflık üretmez. Sabit dışa aktarımın hangi sürüme ait olduğu, kök akışın nasıl seçildiği, açıklamaları kimin eklediği ve ham ile redakte edilmiş kopyalara kimlerin eriştiği birlikte belirtilmelidir. Her şeyi kamuya açmak da tek geçerli yol değildir: bağımsız inceleyiciler için denetimli erişim, kamu için redakte edilmiş kopya ve her iki sürümün aynı kaynaktan geldiğini gösteren değişmez tanımlayıcılar mahremiyetle inceleme ihtiyacını birlikte koruyabilir. Bu tanımlayıcı, inceleyenin ham ve redakte edilmiş kopyaların aynı koşudan geldiğini doğrulamasını sağlar. Bunun bedeli, erişimi yöneten tarafın yeni bir güven halkasına dönüşmesidir.[1], [2]

Bu nedenle işlem izi için yararlı zincir kronolojik ilerler: önce ilgili koşu yakalanır ve korunur; sonra dışa aktarımın kapsamı ile kök akış belirlenir; ardından açıklama ve deney bağlamı eklenir; son olarak ham, redakte edilmiş ve kamuya açık katmanların erişim sınırları tanımlanır. Delangue'ın talebi ilk adımı gündeme getiriyor. Phoenix'in olağan sürümü orta adımlarda kullanılan araç türlerini gösteriyor. İkisi birlikte OpenAI'nin bu zinciri kurduğunu kanıtlamıyor; yalnızca “izleri yayımlayın” talebinin incelenebilir bir sonuca dönüşmesi için hangi devir teslimlerin gerektiğini açıklıyor.[1], [2]