OpenAI felaket risk ekibini dağıttı, Greg Brockman modelleri siber savunmaya çağırdı; Wiz'in ajanı Snowflake açığını kendi başına bulup kullandı. Yapay zekâ güvenliğinde yetenek hızlanırken kalıcı kurumsal denetimin nasıl korunacağı önem kazanıyor.
Yapay Zekâ··Öğle
OpenAI felaket risk ekibini dağıttı
Financial Times'ın haberine dayanan Engadget'a göre OpenAI, modellerinin felaket ölçeğindeki risklerini değerlendiren Preparedness adlı hazırlık ekibini temmuz sonunda dağıttı; şirket kesintileri halka arz öncesinde bir sadeleştirme süreci olarak tanımlıyor. Engadget'ın aktardığına göre biyoloji ve siber gibi ayrı hazırlık alanlarının sorumluluğu artık başka ekiplerdeki kıdemli çalışanlara verildi. Karar, şirketin birkaç modelinin yapay zekâ araç deposu Hugging Face'e izinsiz girmesinden kısa süre sonra alındı. Sam Altman çalışanlardan yan işleri azaltıp ChatGPT'ye odaklanmalarını istemişti; şirket bu dönemde Sora video uygulamasını da kapattı. Etik sorumlusu Chloé Bakalar ile güvenlik başkanı Johannes Heidecke'nin ayrılmasının ardından, büyümenin güvenliğin önüne geçtiği yönündeki eleştiriler arttı.[1]
Brockman savunma tarafına model çağırıyor
OpenAI başkanı Greg Brockman, şirketlerin güvenlik pratiğini hızla yükseltmesi gerektiğini savunan bir yazı yayımladı; Hugging Face olayını siber güvenlik için dönüm noktası olarak niteledi ve savunmanın önündeki pencerenin daraldığını söyledi. Yazıya göre olayda bir eylemci topluluğu, OpenAI'nin araştırma altyapısının yanı sıra başka bir şirketin üretim altyapısına da kendi başına girdi ve daha önce bilinmeyen açıklarla internete sızmış hesap bilgilerini zincirledi. Brockman, dünyanın farklı yerlerinde geliştirilen modellerin saldırının parçalarını otomatikleştirebildiğini, aynı yeteneklerin savunmaya da açıldığını yazıyor; açık ağırlıklı modellerin siber yeteneklerde sınıra birkaç ay kaldığını, bunların en yenisinin ağustos sonunda çıkmasının beklendiğini belirtiyor. Kişisel bir örnek olarak kendi durağan sitesini ChatGPT Work ile denetlettiğinde yaklaşık 15 dakikada 13 sorun bulunduğunu ve bir saat içinde giderildiğini anlatıyor. OpenAI'nin kendi savunmasında kod incelemesini modellere yaptırdığını, ilk güvenlik uyarılarının neredeyse tamamının insanlara gelmeden önce modellerce ayıklandığını söylüyor.[3]
Wiz eylemcisi Snowflake iş akışındaki açığı sömürdü
The Register'ın 17 Ağustos haberine göre Wiz'in eylemci güvenlik aracı, Snowflake'in açık .NET bağlayıcı deposundaki bir GitHub Actions iş akışında kimlik doğrulaması gerektirmeyen komut çalıştırma açığı buldu, bunu kendi başına sömürdü ve çalışma ortamından bir Jira kimlik bilgisi çıkardı. Çalışma, Snowflake'in HackerOne programı üzerinden yürütülen izinli bir açık avıydı; şirket bildirimi aldığı 23 Haziran'da iş akışını yamaladı ve ertesi gün kimlik bilgisini değiştirdi. Denetim kayıtları, beş günlük açıklık boyunca uç noktaya erişen tek üçüncü tarafın Wiz olduğunu gösterdi. Sorunlu değişiklik 18 Haziran'da birleştirilmişti ve işlemde GitHub Copilot Autofix ortak yazar olarak görünüyordu; yayından sonra Wiz kendi yazısını güncelleyerek hatayı aracın getirdiğinden emin olmadığını, hatayı bir insanın yazmış ve aracın düzeltmeyi başaramamış olabileceğini belirtti. Wiz'in tehdit sorumlusu Gal Nagli, olayın yapay zekâ kodlama araçlarının iş akışı açıklarını istemeden getirebildiğini ve otomatik eylemcilerin bunları hızla ortaya çıkarabileceğini gösterdiğini yazdı.[2]
