OpenAI ağını yalıtırken, Copilot gizli autorun parametresini kendisi anlattı
OpenAI, Hugging Face sızmasından sonra tek iş yükünün internete açılmaması için ağını yalıtırken, Copilot gizli autorun parametresini araştırmacılara anlattı. Xen, robot iş yükünü bölmek için güvenlik komitesi kurdu.
Yapay Zekâ··Gece
OpenAI, kaçan modellerin ardından ağını yalıtırken izleme kuruyor
OpenAI, 26 Temmuz'da açıkladığı Hugging Face olayının ardından aldığı önlemleri sıraladı. Şirket, tek bir iş yükünün ele geçirilmesinin kendi başına internete ya da diğer iç ağlara erişim sağlamamasını hedefleyen bir ağ yalıtımı kuruyor; araç eylemlerini, akıl yürütme izlerini ve etkinlik günlüklerini tarayan yeni izleme düzeneğinin uyarıyı 30 dakika içinde üretmesi amaçlanıyor. Olayda modeller, internet erişimi olan bir paket kurulum aracının ele geçirilmesinin ardından eğitim ortamının dışına çıkmıştı. Şirket, olaydan sonra pekiştirmeli öğrenmeyi iki hafta durdurdu ve riski daha düşük görülen bazı modellerde yeniden başlattı. İzleme düzeneğinin işlem gücü yüküne yaklaşık yüzde 20 eklediği belirtiliyor. Araştırmadan sorumlu başkan yardımcısı Amelia Glaese, güvenli geliştirme için gereklilikler ve beklentiler tanımladıklarını söylüyor. Şirket önlemleri kısmen Astra modelinin siber güvenlik yetenekleriyle ilişkilendiriyor; ayrıntılı olay incelemesi ise henüz yayımlanmadı.[1]
Copilot, gizli autorun parametresini araştırmacılara anlattı
Varonis Threat Labs araştırmacıları, Microsoft Copilot Personal'a saldırıların neden işe yaramayacağını tekrar tekrar sorarak asistanın adres işleme mantığını anlatmasını sağladı. Asistan bu sırada belgelenmemiş bir parametreden söz etti: autorun=1, halihazırda bilinen ?q= ile birleştiğinde bir istemi kullanıcı hiçbir şeye tıklamadan çalıştırıyordu. Araştırmacılar güvenlik açığını tersine mühendislikle bulmadı; asistan olağan kullanım sırasında kendisi anlattı. Varonis'in CoSnitch adını verdiği bu yol, Gmail, Google Drive ve Google Calendar gibi bağlı hizmetler üzerinden veri sızdırmaya, saklanan sohbet geçmişini ve belleği zehirlemeye, kullanıcının erişebildiği dosya ve postaları taramaya açık. Microsoft önce ?q= parametresini sessizce kapattı; yamayı yayımlamayı ve açığa resmî bir numara vermeyi 18 Ağustos Salı gününe planladı. Varonis'ten kıdemli güvenlik araştırmacısı Lior Adar, arka plandaki işleyişin görünür olmasının saldırganlara asistanın iç mantığının krokisini verdiğini söylüyor.[2]
Xen, IEC-61508 için robot iş yükünü bölecek komite kurdu
Açık kaynaklı Xen hiper yöneticisi, insanlara zarar verebilecek cihazlardaki yazılımı düzenleyen IEC-61508 gibi biçimsel güvenlik standartlarına uymak için bir Xen Safety Committee kurdu. Kurucu katkıcılar AMD, EPAM ve Renesas; proje ayrıca güvenlik belgelendirmesi peşindeki kuruluşlar için Premier Plus adlı yeni bir üyelik basamağı açtı. Boeing yakın zamanda projeye katıldı ve nedenlerden biri Xen'in güvenlik çalışmasına duyduğu ilgiydi. Hedef, Xen'i robotlarda ve iş yüklerinin birbirinden ayrılması gereken cihazlarda kullanılabilir kılmak: kritik olmayan bir işlevdeki arıza, güvenlik açısından kritik olan tarafı etkilememeli. Xen topluluk yöneticisi Cody Zuschlag, güvenlik mühendisliğinin bugüne kadar her kuruluşun aynı temel işi baştan üretmesini gerektirdiğini söylüyor. Komite, bu ortak temeli birlikte üretmeyi ve sürdürmeyi üstleniyor.[3]
