OpenAI, davranış belgesini beş değer etrafında yeniden düzenledi
OpenAI, Model Spec adlı davranış belgesini insan niyetine bağlılık, zararı azaltma, dürüstlük, insanın karar verme gücü ve özen etrafında yeniden düzenledi. Kamuya açık metin, şirketin modellerinden beklediği davranışları tanımlıyor. Çatışan yönergeler için yetki sıralamasını koruyan belge; gözetim, bağlam ve kullanıcı denetimini de ele alıyor. OpenAI, kullanımdaki modellerin bu çerçeveyi henüz bütünüyle yansıtmadığını belirtiyor.
Yapay Zekâ··Sabah
Amaçlanan davranış beş değerle düzenleniyor
OpenAI, modellerinden beklediği davranışları açıkladığı kamuya açık Model Spec belgesini beş temel değer etrafında yeniden düzenledi. Bunlar insan niyetine bağlılık, zararı azaltma, dürüstlük, insanın karar verme gücü ve özen. Belgenin 29 Ekim sürümü, farklı yetkilerden gelen yönergeler çatıştığında uygulanacak sıralamayı koruyor. Çerçeve, şirketin ürünleri ve geliştirici platformunda kullanılan modelleri kapsıyor. Kullanıcıların ve geliştiricilerin amaçları da metnin ele aldığı konular arasında.[1], [2]
Gözetim ve bağlam için kurallar bulunuyor
İnsan niyetiyle ilgili bölümler, gözetimi ve düzeltmeyi desteklemeyi, üzerinde anlaşılmış özerklik sınırlarında kalmayı öngörüyor. Güvenilmeyen veriler varsayılan olarak yönerge sayılmıyor. Bağlamın nereden geldiği, kapsamı ve güncelliği de dikkate alınacak unsurlar arasında. Dürüstlük bölümü, belirsizliklerin, yeteneklerin ve yapılan işlemlerin doğru aktarılmasını ele alıyor. İnsanın karar verme gücü ise kişinin kendi görüşünü oluşturmasına ve bilinçli seçim yapmasına destek olunmasıyla açıklanıyor. Kullanıcı denetimi ve mahremiyet de metinde yer alıyor.[1]
Belge, geliştirme hedefini tanımlıyor
OpenAI, kullanımdaki modellerinin belgeyi henüz bütünüyle yansıtmadığını belirtiyor. Üslup ve etkileşime ilişkin bazı tercihler kullanıcıya bırakılırken daha güçlü güvenlik kuralları yetki sıralamasında üstte tutuluyor. Kamuya açık metin, tartışma ve yeniden kullanım için kamu malı olarak sunuluyor. Şirket, belgeyi kullanım politikaları ve güvenlik protokolleriyle birlikte ele alıyor. Geri bildirimlerin ve edinilen deneyimin sonraki düzenlemelere katkı verdiğini de söylüyor.[1]
