Eigen RadarYapay Zekâ
Analiz

NASK ve OpenAI, yapay zekâ güvenliği araştırmaları için anlaştı

Polonya araştırma enstitüsü NASK ile OpenAI, yapay zekâ güvenliği araştırmaları için anlaşma imzaladı. Çalışmalar gelişmiş sistemlerin değerlendirilmesini, zayıflıkların bulunmasını ve korumaların sınanmasını kapsıyor. Konuşma diline göre değişen kötüye kullanım riskleri de araştırılacak konular arasında. Polonya tarafını NASK’ın güvenlik araştırma merkezi üstleniyor; anlaşma tarafların önceki siber güvenlik çalışmalarını izliyor.

Yapay Zekâ··Sabah
Ahşap toplantı masasında iki kapalı mavi dosya ve bir kalem duruyor; arkada boş sandalyeler ile Polonya bayrağı görünüyor.

Anlaşma, ortak güvenlik araştırmalarına temel oluşturuyor

Polonya araştırma enstitüsü NASK ile OpenAI, yapay zekâ güvenliği araştırmaları için anlaşma imzaladı. Anlaşma, gelişmiş sistemlerin güvenliğine ilişkin teknik çalışmalarda araştırma enstitüsüyle model geliştiricisini bir araya getiriyor.[1], [2]

Polonya’nın yapay zekâ güvenliği enstitüsü işlevini yürüten NASK Yapay Zekâ Güvenliği Araştırma Merkezi, Polonya tarafını üstleniyor. Planlanan çalışmalar; sistemlerin yeteneklerini değerlendirmeyi, zayıflıklarını bulmayı, korumaları sınamayı ve olay bildirimine ilişkin ortak teknik yaklaşımlar geliştirmeyi kapsıyor. Taraflar, gelişen riskleri daha erken saptamak için araştırma uzmanlığını model geliştirme deneyimiyle birleştirmeyi amaçlıyor.[1]

Dil farklılıkları risk değerlendirmesine giriyor

NASK Direktörü Radosław Nielek; yeni tehditler, yapay üretilmiş içeriğin belirlenmesi ve kötü amaçlı kullanım üzerine çalışmaları anlattı. Konuşmada kullanılan dil de araştırma başlıkları arasında; kötüye kullanım riskleri dillere göre değişebiliyor. NASK, kamu hizmetlerini ve Polonya’nın sayısal bilgi ortamını koruma deneyimini çalışmaya katıyor. OpenAI’nin bölgesel kamu politikası yöneticisi Tom Duff Gordon, dış uzmanların şirketin varsayımlarını sınamasına ve sistemlerini değerlendirmesine yardımcı olabileceğini söyledi.[1]

Önceki siber güvenlik işbirliği anlaşmaya zemin sağlıyor

Daha önceki işbirliğine NASK bünyesindeki siber güvenlik ekibi CERT Polska katılmıştı. Ekip, temmuzda Daybreak üzerinden gelişmiş siber modellere erişmiş ve ağ aygıtlarında kullanılan MikroTik RouterOS yazılımında altı güvenlik zayıflığı bulmuştu. Bazı zayıflıklar birleştirildiğinde kimlik doğrulaması olmadan aygıtın denetimi ele geçirilebiliyordu. Üretici düzeltmeleri yayımladı; CERT Polska da bunların gözlenen saldırıları engellediğini doğruladı. Bu bulgular, yeni imzalanan araştırma anlaşmasından önceki çalışmalara ait.[1]

Kaynakça

  1. Haber kaynağıNASKNASK ve OpenAI, yapay zekâ güvenliği araştırmaları için anlaştı↩1↩2↩3↩4
  2. Haber kaynağıpb.plOpenAI ve NASK, yapay zekâ güvenliği araştırmaları için anlaştı↩