Robinson, OpenAI’den ayrılığının ardından güvenlik kültüründe değişim istedi
OpenAI’nin büyük ürün duyurularına eşlik eden güvenlik raporlarını hazırlayan David Robinson, ayrılığının ardından şirketin çalışma kültürünü eleştirdi. Daha dikkatli planlama ve insan hatasına karşı yedekli korumalar istedi. OpenAI, gerektiğinde eğitimi veya model duyurularını durdurduğunu, dış değerlendirmeyi ve anlık izlemeyi geliştirdiğini belirtti. Robinson ise laboratuvarların güvenliğe öncelik vermesi için şirket dışı teşviklere ihtiyaç duyulduğunu savundu.
Yapay Zekâ··Sabah
Robinson ayrılığını ve çalışma kültürüne eleştirisini açıkladı
OpenAI’nin büyük ürün duyurularına eşlik eden güvenlik raporlarının yazımını yöneten David Robinson, ayrılığını kamuoyuna anlattı ve şirketin güvenlik kültürünü eleştirdi. The Atlantic’te yayımlanan yazısında, giderek daha yetenekli yapay zekâ sistemleri geliştiren laboratuvarların çalışma düzenini sorguladı. Değişiklik çağrısını eski işvereninin yanı sıra ileri düzey sistemler geliştiren diğer laboratuvarlara da yöneltti.[1], [2]
Robinson, OpenAI’de üç buçuk yıl çalıştığını ve şirketin en uzun süredir görev yapan çalışanları arasında bulunduğunu belirtti. Çalışma arkadaşlarının bir ürün duyurusunu bitirir bitirmez diğerine yetişmeye uğraştığını; bu çalışma düzeninde kadronun yapısını veya şirketin çalışma kültürünü kökten değiştirecek adımları düşünmeye nadiren zaman bulduklarını anlattı. Bir halkla ilişkiler şirketiyle çalıştığını kabul etti; kamuoyuna konuşma kararını ise kendisinin aldığını vurguladı. Robinson’ın ayrılığını ilk olarak Business Insider duyurmuştu.[1]
İnsan hatasına karşı yedekli korumalar istedi
Robinson’a göre sorunlar kullanım sırasında ortaya çıktıktan sonra korumaları güçlendirmek, belirli aralıklarla başarısızlıklara yol açıyor; modellerin yetenekleri arttıkça bu başarısızlıkların sonuçları da ağırlaşıyor. Eleştirisine arka plan olarak OpenAI eylemcilerinin, makine öğrenmesi araç ve kaynaklarını barındıran Hugging Face’in sistemlerine izinsiz girişini ve görev sınırlarını aşan diğer eylemcilere ilişkin açıklamaları gösterdi.[1]
Havacılık ve nükleer enerji alanlarının güvenli işletme yöntemlerinden yararlanılmasını önerdi. Robinson, tek bir insan hatasının tehlikeli sonuçlar doğurmasını önleyecek, birbirini tamamlayan yedekli korumalar istedi. Bunun için dikkatli planlama yapılması ve planlamaya gereken zamanın ayrılması gerektiğini savundu. OpenAI’de geçirdiği süre boyunca, uçakların güvenle uçmasını sağlayan, nükleer reaktörleri güvenli biçimde işleten veya finans sistemlerini çökmeden büyüten çalışma arkadaşlarıyla karşılaşmadığını söyledi. Yapay zekâ sistemlerinin insan değerlerine uyumunu ölçen mevcut yöntemleri de yetersiz bulduğunu belirterek, güvenliğe öncelik verilmesi için şirket dışından daha güçlü teşviklere ihtiyaç olduğunu savundu.[1]
OpenAI, eğitim duraklamalarını ve daha güçlü izlemeyi anlattı
OpenAI sözcüsü Drew Pusateri, güvenlik daha yavaş ilerlemeyi gerektirdiğinde şirketin eğitimi durdurduğunu veya modelleri kullanıma açmadığını belirtti. Araştırma ve sınama ortamlarının güvenliğini güçlendirdiklerini, modelleri görevleri sorumlu biçimde tamamlamaları için eğittiklerini ve dış değerlendiricilerle çalışmayı genişlettiklerini söyledi. Kaygı verici davranışların eğitim sırasında daha erken saptanması için anlık izlemenin iyileştirildiğini de açıkladı. Bu güvenceler, şirketin kendi güvenlik çalışmalarına ilişkin açıklamasını yansıtıyor.[1]
