Nadella, yapay zekâ modeli dışında acil fren istiyor
Microsoft CEO’su Satya Nadella, yapay zekâ modelinin dışında çalışan denetimler ve görev sürerken modeli durdurabilecek yetkili bir kişi önerdi. 10 Ekim’de yayımladığı yazıda sınırlı yetki, bağımsız denetim ve önemli işlemlerin okunabilir kanıt bırakması da yer alıyor. Öneri, yeni bir ürün ya da şirket politikası duyurmadan, güçlü modellerin bağlı sistemlerdeki çalışmalarının nasıl yönetileceğini ele alıyor.
Yapay Zekâ··Sabah
Görev sürerken modeli bir insan durdurabilmeli
Microsoft CEO’su Satya Nadella, görev yürüten bir yapay zekâ modelini yetkili bir kişinin her zaman duraklatabilmesini veya kapatabilmesini önerdi. 10 Ekim’de X’te yayımladığı yazıda bu gereği acil fren benzetmesiyle anlattı. Modelin güvenliğinin bozulmuş olabileceği varsayımıyla, sınırlandırmanın en baştan kurulmasını istedi. Bu denetim, görev tamamlandıktan sonra yanıtın değerlendirilmesinden önce, çalışma sürerken müdahale edebilme olanağını kapsıyor.[1], [2]
Nadella’nın kaygısı, hassas bilgilerle çalışıp bağlı sistemlerde işlem yapabilen güçlü modelleri kapsıyor. Böyle bir modeli, kurum içinde geniş erişim yetkisi bulunan bir çalışanla karşılaştırıyor. Kötü niyet olmasa da hata yapılabileceğini veya güvenliğin bozulabileceğini söylüyor. Bu karşılaştırmada kimliğin belirlenmesi, yetkilerin sınırlanması ve işlemlerin kayda alınması gibi var olan önlemlere başvuruyor. Bunları modelin erişimi ve eylemleriyle ilgili önerisinin dayanağı olarak sunuyor.[2]
Denetimler modelin dışına yerleştirilmeli
Öneride model, çalışmasını yöneten yazılımdan ayrılıyor. Nadella, denetim ve koruyucu mekanizmaları modelin dışına yerleştirmek istiyor. Önemli eylemlerin, insanın okuyabileceği ve sonradan değiştirilmeye karşı korunan kanıtlar bırakmasını öneriyor. Modellerin erişimi genişlerken yapay zekâ davranışının nedenlerine eski yazılımlardaki kadar kolay geri gidilemediğini savunuyor. Denetimin hangi bileşende bulunduğu ile bir işlemin sonradan nasıl incelenebileceğini bu çerçevede birlikte ele alıyor.[1], [2]
Nadella’nın sıraladığı ilkeler arasında model çeşitliliği, gözlem, doğrulanabilirlik, bağımsız kontrol ve bağımsız denetlenebilirlik var. Sorunların açıklanması da önerinin parçası. Böylece yalnızca modelin kendisini değil, onun çevresindeki çalışma düzenini de ele alıyor. Eylemleri inceleme ve gerektiğinde işi durdurma konusunda insana süren bir rol veriyor; sorumluluğun insanlar adına işlem yapan zekâya devredilemeyeceğini belirtiyor.[2]
Nadella bir ürün çıkışı yerine çalışma yaklaşımı öneriyor
Microsoft, Nadella’nın açıklamasıyla yeni bir ürün veya şirket politikası değişikliği duyurmadı. Önerilerin uygulama takvimi ve etkili olduklarını gösteren deney sonuçları yok. Nadella, giderek daha yetenekli modellerin daha güçlü sınırlandırma teknolojileri ve ortak standartlar gerektirdiğini savunuyor. Öneri, Microsoft hizmetlerinin tümünde tamamlanmış değişiklikler açıklamak yerine, modellerin kullanımı sırasında erişimin ve işlemlerin yönetilmesi için kurulmasını istediği düzeni tarif ediyor.[1], [2]
Açıklama, modellerin denetimiyle ilgili olayların kamuoyunda tartışıldığı dönemde geldi. Şirketlerin açıkladığı olaylar ve Anthropic’in temkinli geliştirme çağrıları bu tartışmanın arka planında bulunuyor. Nadella’nın somut işletme koşulu ise görev devam ederken müdahale yetkisinin korunması. Durdurabilme, eylemleri gözleyebilme ve değiştirilmeye karşı korunan kanıt bırakma, Nadella’nın önerdiği çalışma yaklaşımının parçaları.[1]
