Ricoh, Japonca güvenlik modelini kasımda sunmak üzere küçülttü
Ricoh, büyük dil modellerinin girdileri ve yanıtlarında zararlı içerik arayan Japonca modelini Gemma 4 tabanıyla yeniledi. Şirket, önceki güvenlik değerlendirme düzeyini daha az hesaplama kaynağıyla koruduğunu söylüyor. Müşterilerin kendi kurallarına göre etiket ekleyebildiği modelin, kasımdan başlayarak kuruluş içinde çalışan dil modeli paketine aşamalı biçimde eklenmesi planlanıyor. Yeni sürümün değerlendirme ölçütleri de gözden geçirildi.
Yapay Zekâ··Öğle
Daha küçük model, girdileri ve yanıtları denetliyor
Ricoh, büyük dil modellerine verilen metinlerde ve üretilen yanıtlarda zararlı bilgi arayan Japonca güvenlik modelini yeniledi. Şirketin 20 Ekim’de duyurduğu ve AI Watch’ın da haberleştirdiği geliştirme, üretken yapay zekânın işyerlerinde kullanımını desteklemeyi amaçlıyor. Model, dil modeline gönderilen içerik ile ondan gelen yanıtı ayrı ayrı güvenlik bakımından değerlendiriyor. Müşterilere sunumun kasımda başlaması ve kuruluş içinde çalışan dil modeli paketine aşamalı biçimde eklenmesi planlanıyor.[1], [2]
Yeni temel model gemma-4-E4B-it; önceki temel Llama-3.1-Swallow-8B-Instruct-v0.5 idi. Ricoh, daha küçük yapının Llama-Ricoh-SafeGuard-20260520 adlı önceki sürümüne yakın güvenlik değerlendirme başarımını daha az hesaplama kaynağıyla koruduğunu belirtiyor. Şirket, bu küçülmeyi hesaplama olanakları sınırlı kuruluş içi sistemlerde kullanımı kolaylaştıracak bir değişiklik olarak sunuyor.[1]
Ricoh’nun sınaması, girdi ve çıktı değerlendirmesini karşılaştırıyor
Ricoh, yeni modelin güvenlik değerlendirmesini önceki Llama-Ricoh-SafeGuard-20260520 modeliyle karşılaştırdı. Sınama, modele gönderilen girdileri ve modelden gelen yanıtları iki ayrı veri kümesiyle ele alıyor. Böylece her iki aşama için elde edilen sonuçlar ayrı puanlarla sunuluyor. F1, sınıflandırmada isabet oranı ile ilgili örnekleri yakalama oranını bir arada değerlendiren ölçüt. Girdi sınaması, Ulusal Bilişim Enstitüsü’nün AnswerCarefully 2.0 veri kümesi ile Ricoh’nun kendi verilerinden alınan toplam 476 örneği kapsıyor. Çıktı sınamasında şirketin hazırladığı 508 örnek kullanıldı. Yeni modelin girdi puanı önceki sürümden daha yüksek, çıktı puanı ise daha düşük. Bu iki sınama, dil modeline gönderilen içerikle üretilen yanıtı ayrı ayrı değerlendiriyor.[1]
Şirketler, ek eğitim vermeden kendi etiketlerini ekleyebiliyor
Yenileme, güvenlik değerlendirmesinde kullanılan ölçütleri de kapsıyor. Ricoh’ya göre dil modellerindeki gelişmeler ve kullanım alanlarının genişlemesi, daha önce genel olarak kısıtlanan bazı içeriklere amaç ve bağlama uygun yararlı yanıtlar verilmesini mümkün kılıyor. Yeni ölçütlerle gereğinden fazla kullanım kısıtlamasının azaltılması amaçlanıyor. Modelin önceden öğrendiği 13 genel zararlı içerik sınıfına, kullanıcıların kendi çalışma kuralları için seçtiği etiketler eklenebiliyor. Sektöre özgü kurallar ve şirket yönergeleri bu uyarlamanın örnekleri arasında. Şirket, bu işlem için modele ek eğitim vermek gerekmediğini belirtiyor. Bu özellikler, kasım için planlanan müşteri sunumuna hazırlanmış modelin parçaları.[1]
