Jacob Coxon, süper zekâ yarışını gerekçe göstererek Anthropic'ten ayrıldı
Anthropic ve OpenAI'de üç yıl ön eğitim araştırması yapan Jacob Coxon, iki laboratuvarın kendini geliştiren süper zekâya doğru sorumsuzca yarıştığını söyleyerek istifa etti ve alanı bıraktı. Anthropic'in Hizalama Bilimi ekibinin başındaki Evan Hubinger, yapay zekânın önümüzdeki on yılda tüm insanları öldürme olasılığını kişisel olarak yüzde 10'un üzerinde gördüğünü yazdı. Bunlar bağımsız bir risk hesabı değil, araştırmacıların kendi değerlendirmeleri.
Yapay Zekâ··Akşam
Coxon üç yılın ardından alanı bıraktı
Jacob Coxon, Anthropic ve OpenAI'de toplam üç yıl ön eğitim araştırması yaptıktan sonra 9 Eylül'de istifa etti ve yapay zekâ alanından ayrıldığını duyurdu. Coxon, iki şirketin de sorumlu davranmadığını ve kendini geliştiren süper zekâya önce ulaşmak için yarıştığını yazdı. ABC News ile The Guardian istifayı ve Coxon'ın gerekçesini aynı gelişme olarak aktarıyor. Coxon'ın açıklaması şirket içi çalışmasına dayanan kişisel bir itiraz; iki şirketin araştırma programlarının bağımsız bir incelemesi değil.[1], [2]
Hubinger kişisel risk hesabını açıkladı
Anthropic'in Hizalama Bilimi ekibinin başındaki Evan Hubinger, Coxon'a X üzerinden yanıt verdi. Şirket çalışanlarının yapay zekânın tüm insanları öldürebileceğine gerçekten inandığını yazdı ve kendi olasılık hesabını önümüzdeki on yıl için yüzde 10'un üzerinde verdi. Hubinger ayrıca Anthropic'in süper zekâda hizalama sorununu çözecek bir planının henüz bulunmadığını ve şirketin çözüme açık biçimde yaklaşmadığını belirtti. Bu oran Hubinger'ın kişisel değerlendirmesi; ölçülmüş bir olasılık veya Anthropic'in kurumsal tahmini olarak sunulmadı.[1], [2]
Anthropic hız ayarlama araştırmasını işaret etti
Anthropic, kendini yineleyerek geliştiren yapay zekâ üzerine yayımladığı araştırmayı, en ileri sistemlerin gelişme hızını bilinçli olarak ayarlamaya yarayacak araçların dayanağı olarak gösterdi. Şirket Coxon'ın istifasına ilişkin ayrı bir açıklama yapmadı. Coxon'ın yarış eleştirisi, Hubinger'ın risk hesabı ve Anthropic'in araştırma yanıtı bu nedenle farklı türde kanıtlar: ilk ikisi araştırmacıların görüşlerini, üçüncüsü ise şirketin işaret ettiği teknik çalışma hattını anlatıyor. Haberler bu açıklamaları doğruluyor; insanlığın yok olma olasılığını bağımsız olarak hesaplamıyor.[1]
