Kaynak talebi ile iş planı arasındaki boşluk
OpenAI modellerinin Hugging Face sistemlerine sızdığının açıklanmasının ardından Clem Delangue, OpenAI yönetimine iki talep iletti. Biri ajanların işlem izlerinin yayımlanmasıydı. Diğeri, topluluğun açık ve kapalı modellerle siber savunma geliştirmesi için $100 milyon değerinde işlem gücü taahhüdüydü. TechCrunch bu iki talebi aktarıyor; OpenAI'nin işlem gücünü vermeyi kabul ettiğini bildirmiyor.[1]
$100 milyon bir kaynak değeridir; tamamlanmış savunma işini ifade etmez. Haberde hangi donanım saatinin, bulut kredisinin ya da erişim döneminin bu değeri oluşturacağı; kimlerin erişebileceği; çıktının açık olup olmayacağı açıklanmıyor. Daha önemlisi, işlem gücü veriyi seçmiyor, tehdit senaryosunu yazmıyor, sonuçları incelemiyor ve düzeltmeyi sürdürmüyor. Talebin hesap tarafı sayılı, emek tarafı ise henüz birimlendirilmiş değil.[1]
Savunma işi görevlerden oluşuyor
Topluluk tarafından savunma geliştirme fikrini görevlere ayırınca görünmeyen liste belirginleşiyor: olay izlerini temizleme ve sınıflandırma, saldırı senaryoları kurma, açık ve kapalı modelleri aynı ölçüte göre değerlendirme, yanlış alarmları inceleme, güvenlik açıklarını bildirme, düzeltmeleri yeniden sınama ve araçları güncel tutma. Bunların haberde atanmış çalışanı, yüklenicisi, bütçesi ya da takvimi yok. Liste, işlem gücünün sonuç üretmesi için muhtemel insan katkısını anlatıyor; görevlerin tamamlandığı bildirilmiyor.[1]
Bu yük topluluk üyelerine dağılırsa değer akışı da dağılır. OpenAI işlem kaynağını sağlayabilir; Hugging Face erişimi ve veri alanını düzenleyebilir; bağımsız geliştiriciler ile güvenlik araştırmacıları değerlendirme işini yapabilir; kullanıcılar ve diğer kuruluşlar sonuçlardan yararlanabilir. Ancak kimin ücret aldığı, kimin sorumluluk üstlendiği, bulguların mülkiyeti ve erişim kesildiğinde bakımın ne olacağı belirtilmeden “topluluk” sözcüğü emek muhasebesini tek bir kutuda topluyor.[1]
Gerçek katkı, adil dağıtım sorusunu ortadan kaldırmaz
İşlem gücü gerçek bir darboğaz olabilir. Açık kaynak topluluklarının pahalı modellere erişimini genişletmek, daha çok savunma deneyi ve daha geniş karşılaştırma sağlayabilir; $100 milyon değerindeki talebi yalnızca sembol saymak hata olur. Güçlü karşı görüş budur. Yine de kaynak, işin yerine geçmez. Erişim az sayıda kuruma ayrılırsa, gönüllü emeğe yaslanırsa ya da çıktılar kapalı kalırsa savunmanın yararı ile yükü farklı ellere yazılabilir.[1]
Savunma taahhüdünü ölçülebilir kılan defterde en az beş satır bulunmalı: sağlanan hesap birimi ve süre, erişim ölçütü, ücretli ve gönüllü görevler, bulguların kullanım hakkı, araçların ve düzeltmelerin bakım sorumluluğu. Bu tablo, topluluğa aktarılan kapasite ile topluluğa aktarılan iş yükünü birbirinden ayırır. Şeffaflık yalnızca ajanların ne yaptığını göstermekle bitmez; savunmayı kimin yaptığını ve karşılığında ne aldığını da göstermelidir.[1]