LeCun, yapay zekâyı yavaşlatmak yerine siber savunmayı güçlendirmeyi savundu
Yann LeCun, Seul’deki sanayi işbirliği basın görüşmesinde yapay zekâ geliştirmesini yavaşlatma çağrılarına karşı çıktı. AMI Labs kurucusu, ilerlemenin kademeli olacağını ve siber savunmacıların geniş kaynaklardan yararlanabileceğini savundu. Dil modellerinden her durumda güvenli yanıt almanın güçlüğünü de kabul ederek eylemlerin sonuçlarını öngören sistemleri anlattı. Açıklamalar bir yaklaşım önerisi; yeni bir güvenlik deneyinin sonucu olarak sunulmuyor.
Yapay Zekâ··Gece
Seul görüşmesinde kademeli ilerleme ile yavaşlatma çağrıları tartışıldı
New York Üniversitesi profesörü ve yapay zekâ geliştiricisi AMI Labs’in kurucusu Yann LeCun, 12 Ekim’de Seul’deki sanayi işbirliği basın görüşmesinde geliştirmeyi yavaşlatma çağrılarına karşı çıktı. İlerlemenin dünyanın farklı yerlerinde ortaya çıkan çok sayıda yenilikle kademeli biçimde sağlanacağını savundu. Görüşü, makinelerin tek bir ani sıçramayla insanları bütün yeteneklerde geride bırakacağı öngörülerine karşı çıkıyor.[1], [2]
Westin Josun otelindeki buluşma, sanayi alanında yapay zekâ için uluslararası işbirliğini konu alıyordu. Daha önce Meta’nın baş yapay zekâ bilimcisi olan LeCun, AMI Labs’in kurucusu ve başkanı olarak konuştu. Turing Ödülü sahipleri arasında da yer alıyor. Açıklamalarında teknolojinin gelişme yönü ile güvenliğine ilişkin görüşlerini anlattı. Görüşmede bu değerlendirmeler için yeni bir modelin sonuçları sunulmadı.[1]
Son saldırılara karşı siber savunmanın güçlenmesini önerdi
LeCun, Güney Kore’deki finans kuruluşlarına yönelik son siber saldırıları değerlendirdi. Sorunları zayıf savunma, sınırlı deneyim ve dikkatsizliğe bağladı. Bu açıklama her olayın bağımsız biçimde saptanmış açıklaması olarak değil, LeCun’un değerlendirmesi olarak aktarılıyor. Yapay zekâ geliştirmesini duraklatmak yerine savunma yeteneklerinin güçlendirilmesini savundu. Açıklamalarının siber güvenlik bölümü, saldırılara karşı nasıl bir yanıt verilmesi gerektiğine ilişkin bu öneriyi içeriyor.[1], [2]
LeCun’a göre savunma yapanlar daha çok çalışandan, iyi eğitimli uzmanlardan, maddi destekten ve daha geniş bilgiden yararlanabiliyor. Gizli çalışmak zorunda olmamalarını da saldırganlara karşı bir üstünlük olarak nitelendirdi. News1, açık toplulukların savunma uzmanlarına yapay zekâ araçlarından yararlanma olanağı sunduğu görüşünü aktarıyor. Bunlar LeCun’un önerisinin gerekçeleri; bütün saldırıların önlendiğini gösteren yeni bir sonuç açıklanmadı.[1], [2]
Dünya modelleri eylemleri öngörürken güvenlik sınırları önemini koruyor
LeCun, dil modellerinin güvenlik sınırlarının aşılabildiğini ve her durumda güvenli yanıt almanın güç olduğunu kabul etti. Eylemlerin sonuçlarını öngören, belirlenen sınırlar içinde çalışan hedef odaklı sistemleri anlattı. Bu yaklaşım, ulaşılmak istenen hedefi olası eylemlerin sonuçlarıyla ilişkilendiriyor. Önerinin güvenlik kısmı, sistemin yalnızca yanıt üretmesine değil, yapacağı işin sonuçlarını değerlendirmesine ve davranışını sınırlayan düzeneklere dayanıyor.[1]
Robotlar konusunda LeCun, dil modellerinin matematik ve kod yazma yeteneklerinin yanında gündelik fiziksel görevlerin hâlâ güç olduğunu vurguladı. Anlattığı dünya modelleri, bir eylemin ardından ne olacağını öngörüp hedefe ulaşacak adımları planlıyor. Kore’nin üretim altyapısını ve araştırmacılarını bu alanda güçlü yanlar olarak gösterdi. Araştırmacıları çekebilmek için üniversite ve araştırma ortamının geliştirilmesini önerdi.[2]
