Nadella, Microsoft'un MAI davranış kurallarını kamu görüşüne açıyor ve 'bilinçli tempo'yu destekliyor
Microsoft'un genel müdürü Satya Nadella pazar günü X'te, üstün zekâ arayışının insanlığa yardım eden ve insan denetiminde kalan bir yapay zekâya dayanması gerektiğini, şirketin hizalamayı tasarım hedefi yapmak için gereken 'bilinçli tempo'yu memnuniyetle karşıladığını ve kendi MAI modellerinin dayandığı davranış kurallarının ertesi gün kamu görüşüne açılacağını yazdı. Paylaşım, Microsoft'un Dario Amodei'nin sınırı yavaşlatma çağrısına yanıtı; haberler yazıldığında kurallar metni henüz yayımlanmamıştı.
Yapay Zekâ··Öğle
İnsan denetimi olmadan 'peşinden koşmaya değmez'
Microsoft'un yönetim kurulu başkanı ve genel müdürü Satya Nadella, 13 Eylül pazar günü X'te, üstün zekâ arayışının insanlığa yardım etmeyen ve insan denetiminde olmayan bir yapay zekânın peşinden koşmaya değmeyeceği ilkesine dayanması gerektiğini yazdı. Bu çerçevede Microsoft'un, hizalamayı tasarım hedefi hâline getirmek için gereken araştırmayı, odağı ve 'bilinçli tempo'yu, 'gömülü değerlendiriciler' gibi fikirleri ve bunları lafta bırakmayacak mekanizmalar kurma çabasını memnuniyetle karşıladığını belirtti. Nadella'ya göre bu iş 'bir avuç kuruluşun' denetiminde olamaz; ekosistemin, ülkelerin ve akademi dâhil farklı alanların geniş temsilini gerektiriyor. Paylaşım, Anthropic'in genel müdürü Dario Amodei'nin yeteneklerdeki ilerleme hızının risk önlemenin yetişebilmesi için yavaşlaması gerektiğini savunan 'Sınırı Yavaşlatmalıyız' başlıklı yazısına şirketlerden gelen yanıtlar arasında yer alıyor.[1], [2]
Açık ve kapalı modeller, kendi öğrenme döngüsünü elinde tutan şirketler
Nadella ayrıca yapay zekânın faydalarının hızlandırılmasını ve ülkeler, topluluklar ve şirketler arasında geniş biçimde yayılmasını istedi; bunun için kapalı ve açık kaynaklı modellerin birlikte gelişebildiği bir 'sınır ekosistemi' gerektiğini yazdı. Şirketler için bir koşul daha koydu: Her kuruluş 'kendine özgü ve örtük bilgisi' üzerinde tam denetimi elinde tutmalı, tek bir model sağlayıcısına bağımlı olmadan kendi sürekli öğrenme döngüsünü kurabilmeli ve bu bilgiyi kendi denetimindeki modellere ve ağırlıklara gömebilmeli. Microsoft'un kendi yaklaşımını üç başlıkta özetledi: yapay zekâ yığınının her katmanında geniş erişim ve seçim, öğrenme döngüleri ve modeller üzerinde kurumsal denetim ve şirketin birinci taraf MAI modellerinin dayandığı davranış kuralları.[1], [2]
14 Eylül için duyurulan davranış kuralları
Üçüncü başlık somut taahhüt: Nadella, Microsoft'un kendi MAI modellerinin dayandığı davranış kurallarının 'yarın', yani 14 Eylül'de kamu görüşüne açılacağını söyledi. MAI, Microsoft'un birinci taraf modellerinin, yani şirketin bir ortaktan lisanslamak yerine kendi geliştirdiği modellerin adı. Fox Business ve Unite.AI haberlerini yayımladığında kurallar metni henüz ortada yoktu; modellerden ne istediği, görüş sürecinin ne kadar süreceği ve kimlerin katılabileceği açıklanmadı. Paylaşımın yanıt verdiği yazıda Amodei, öncü laboratuvarlara çalışan benzeri sürekli erişimi olan gömülü üçüncü taraf değerlendiriciler, demokratik ülkelerdeki öncü şirketlerin ortak güvenlik standartları ve denetimsiz ilerlemeye sınırlar üzerinde eşgüdümü ve küresel eşgüdüm önermiş, örnek değerlendirici olarak METR'i anmıştı.[2], [1]
