Claude, ABD ara seçimleri için resmî oy verme bilgilerine hazırlanıyor
Anthropic, ABD ara seçimleri öncesinde Democracy Works’ün resmî oy verme bilgilerini bu ay içinde Claude yanıtlarına eklemeyi planlıyor. Seçim gecesi sonuçları da konuşma içinde sunulacak bilgiler arasında. Şirket, doğrudan zararlı istekleri reddeden önlemlerin küçük ve zararsız görünen görevlere bölünmüş kampanyalarda aşılabildiği testlerin ardından yeni kötüye kullanım sınıflandırıcıları geliştirdiğini açıkladı. Bağlantıların kurulması henüz plan aşamasında.
Yapay Zekâ··Sabah
Oy verme bilgileri Claude konuşmalarına eklenecek
Anthropic, ABD ara seçimleri öncesinde Claude için yeni seçim önlemleri ve oy verme bilgilerine bağlantılar açıkladı. Bu plan, resmî oy verme bilgilerinin sohbet sisteminin yanıtlarına eklenmesini içeriyor.[1], [2]
Şirket, yanıtları bu ay içinde eyalet ve yerel seçim makamlarından bilgi derleyen kâr amacı gütmeyen Democracy Works’e bağlamayı planlıyor. Seçim gecesi sonuçlarına erişim de tasarlanıyor. Nisan ayında eklenen yönlendirme, seçmen olmak için başvuru, sandık yeri veya seçim tarihi soranları kuruluşun tarafsız oy verme kaynağı TurboVote’a götürüyor.[1]
Küçük görevlere bölünen istekler önlemleri aşabildi
Institute for Strategic Dialogue ve McCain Institute adlı araştırma kuruluşlarıyla yapılan sınamalarda doğrudan zararlı seçim istekleri reddedildi. Ancak zararsız görünen küçük işlere ayrılmış kampanyalar önlemleri aşabildi. Anthropic, yeni sınıflandırıcılarının sahte medya üretimini, hesap oluşturmayı ve yabancı aktörlerin çok aşamalı seçim müdahalesini hedeflediğini belirtiyor.[1]
Bağımsız değerlendirmeler siyasi tarafsızlığı da sınadı
Bağımsız değerlendirmeler, Claude’un siyasi isteklere verdiği yanıtları ele aldı. Future of Free Speech ve Collective Intelligence Project, sistemin kimi zaman istenmeyen çekinceler veya karşı görüşler eklediğini buldu. Foundation for American Innovation ise Sonnet 4.5’in sağ eğilimli bazı isteklere yanıt verirken eşit ölçüde çekince kullanmadığını saptadı. Anthropic, eşgüdümlü seçim kötüye kullanımına karşı önlemlerle birlikte siyasi yanlılık sınamalarını da geliştirdiğini belirtiyor.[1]
