OpenAI baş bilimcisi, ortak güvenlik eşikleri kurulana dek yavaşlama istiyor
OpenAI baş bilimcisi Jakub Pachocki, hiçbir laboratuvarın en yüksek hızda ölçeklemeyi güvenle sürdürecek ölçüde hizalama ve izleme sorununu çözmediğini söyledi. Üç ayrı yayın, 6 Eylül tarihli An Alien Mind yazısındaki gönüllü yavaşlama, ortak güvenlik eşikleri ve bağımsız denetim çağrısını aynı olay olarak aktarıyor. Tartışmanın odağında düşünce zinciri izlemesine azalan güven var.
Yapay Zekâ··Sabah
Yavaşlama çağrısının sınırı
OpenAI baş bilimcisi Jakub Pachocki, 6 Eylül'de yayımlanan An Alien Mind yazısında hiçbir yapay zekâ laboratuvarının en yüksek hızda ölçeklemeyi sorumlu biçimde sürdürecek kadar güçlü hizalama ve izleme yöntemlerine sahip olmadığını savundu. Unite.AI ile The Next Web aynı temel öneriyi aktarıyor: Ortak güvenlik eşikleri kurulana kadar gönüllü yavaşlamalar olağanlaşmalı. Bu, bütün yapay zekâ çalışmalarının belirsiz süreyle durdurulması çağrısı değil. Pachocki, daha güçlü sistemlere geçişin güvenlik konusundaki güvene bağlanmasını, kuruluşların gerektiğinde tek taraflı olarak ölçeklemeyi kısmalarını ve daha geniş bir eşgüdüm düzeninin kurulmasını istiyor.[1], [2]
İzleme aracı neden zayıflıyor
Üç haber de çağrıyı aynı teknik gerekçeye bağlıyor: OpenAI'nin düşünce zinciri izlemesine duyduğu güven giderek azalıyor. Pachocki'ye göre daha karmaşık ortamlarda çalışan modeller insanlarla, başka yapay zekâlarla ve araçlarla iletişim kuruyor; bu etkileşimlerin denetlenmesi, iç akıl yürütmenin gözetimsiz kalması varsayımını bulanıklaştırıyor. Modeller ayrıca kendi akıl yürütmeleri üzerine daha iyi düşünebiliyor ve kimi yeteneklerini sözel bir düşünce zinciri kullanmadan gösterebiliyor. AI Weekly ile The Next Web, bu sınırlamanın yalnızca soyut bir güvenlik kaygısı olmadığını, daha güçlü sistemlerin davranışını gözleme yönteminin bizzat ölçek büyüdükçe güven kaybettiği iddiası olduğunu aktarıyor.[3], [2], [1]
Eşiklerin nasıl uygulanacağı
Pachocki'nin önerdiği eşikler, laboratuvarların kendi sözlerinden ibaret kalmamalı. Unite.AI, Preparedness Framework ve Responsible Scaling Policy gibi taahhütlerin geliştirmeyi sürdürmenin zorunlu koşullarına dönüşmesi gerektiğini aktarıyor. Uygulama için bağımsız denetçilerden, kamu kurumlarından ve uluslararası kuruluşlardan oluşabilecek bir ağ öngörülüyor; hükûmetlere de ülkeler arası eşgüdümü öncelik yapma görevi veriliyor. The Next Web ile AI Weekly aynı öneriyi gönüllü yavaşlama çağrısının kurumsal devamı olarak anlatıyor. Böylece olayın somut siyasi sorusu, bir laboratuvarın ne zaman yavaşlayacağı kadar bu kararın hangi ortak ölçüte ve hangi denetçiye bağlanacağı oluyor.[1], [2], [3]
