Musubi, her platformun kurallarını okuyan içerik denetimi modelini yayımladı
Musubi, her iletiyi platformun yazılı kurallarıyla birlikte değerlendiren PolicyLM modelinin ağırlıklarını yayımladı. Ekipler kuralları yeni bir eğitim süreci başlatmadan değiştirebiliyor ve modeli kendi altyapılarında çalıştırabiliyor. Model açıklama üretmek yerine kategorilere puan veriyor. Kullanıma geçerken platformun kendi içerikleriyle eşiklerin ayarlanması öneriliyor. Model yalnızca tek iletideki yazıyı işleyerek sınıflandırma yapıyor.
Yapay Zekâ··Öğle
Model, her iletiyle birlikte verilen kuralları uyguluyor
İçerik denetimi için yapay zekâ geliştiren Musubi, PolicyLM-1.7B modelini 6 Ekim’de yayımladı. Ağırlıklar Apache 2.0 lisansıyla sunuluyor. Model, iletinin yanında platformun yazılı kurallarını da alarak içeriği sınıflandırıyor. Ekipler kategorileri doğal dille tanımlayabiliyor ve yeniden eğitim gerekmeden değiştirebiliyor. Canlı sohbetler, oyun odaları, özel iletiler ve kullanıcı adları, hedeflenen kullanım alanları arasında. Kuralların her çağrıda okunması, ürünün temel işleyişini oluşturuyor.[1], [2]
Model her kategoriye sıfır ile bir arasında puan veriyor; yazılı gerekçe veya sohbet yanıtı üretmiyor. Tek çağrıda birden fazla etiket değerlendirilebiliyor. Platform, bu puanların içerik kararlarında hangi eşiklerle kullanılacağını belirliyor. İndirilebilir ağırlıklar, ekiplerin modeli kendi altyapılarında çalıştırmasına ve ince ayar yapmasına olanak veriyor. Musubi yönetilen kurulum da sunuyor. Böylece içerik denetiminde kullanılacak kategorilerle modeli çalıştırma biçimi ayrı ayrı seçilebiliyor.[1]
Denetim eşikleri platformun içeriğine göre ayarlanıyor
Musubi, kullanıma geçmeden önce platformun kendi içeriklerinden alınan örneklerle ayar yapılmasını öneriyor. Varsayılan eşik seçeneği, kurala aykırı iletilerin seyrek olduğu canlı sohbetlerde doğru işaretlemeye öncelik veriyor. Dengeli seçenek, bu iletilerin daha sık görüldüğü veya gözden kaçırılmalarının daha ağır sonuç doğurduğu inceleme kuyruklarına yönelik. Daha geniş ön eleme isteyen ekipler eşiği düşürebiliyor. Bu seçim, incelemeye gönderilecek olası sorunlu içeriğin kapsamını değiştiriyor.[1]
Kurallar ve ileti, modelin işlediği birimlerden oluşan 2.048 belirteçlik bağlamı paylaşıyor. PolicyLM yalnızca metni işliyor ve önceki konuşmayı görmeden tek iletiyi değerlendiriyor. Musubi, zararlı içeriğe benzeyen masum ifadelerin, uzun girdilerin ve çok sayıda ilgisiz kategorinin yanlış işaretlemeyi artırabileceğini belirtiyor. Yardımcı yazılım, benzer görünen karakterleri ve sözcük içindeki gereksiz boşlukları düzenliyor. Uzun iletiler de işlenmek üzere parçalara ayrılıyor; bu sınırlamalar kurulum sırasında dikkate alınıyor.[1]
Yerel kullanım için sunulan modelin dil sınırları da açıklanıyor
Musubi, PolicyLM’yi 19 dilde değerlendirdiğini; en güçlü sonucun İngilizcede, en zayıf sonucun Tamilcede alındığını belirtiyor. Bu testlerdeki özel kuralların tamamı İngilizce yazılmış. Kurucu ortak ve yapay zekâ sorumlusu Filip Jankovic, artan ileti miktarı karşısında platform ekiplerinin içerik denetimini kendi gereksinimlerine göre uyarlamasını amaçladıklarını anlatıyor. PolicyLM’nin açıklanan dil değerlendirmesi, Musubi’nin kendi testlerine dayanıyor. Kurallar kullanım sırasında okunuyor; üründe hangi kategorilerin kullanılacağına insan denetçiler karar veriyor.[1], [2]
Model, Qwen3-1.7B-Base kökenli BidirLM-1.7B-Embedding adlı kodlayıcı üzerinden geliştirildi. Eğitimde NVIDIA ve Alibaba’nın güvenlik veri kümeleri, PolyGuardMix ve yapay olarak üretilmiş örnekler birlikte kullanıldı. Ağırlıklar ile model kartı Hugging Face’te bulunuyor. Musubi, güvenlik modellerine yönelik ortak çalışma olan ROOST Model Community’ye de katıldı. Şirket, ROOST ile farklı uygulamalarda denetim modelinin seçilmesi ve isteklerin yönlendirilmesi üzerine ortak bir rehber yayımladı.[1]
