Araştırmacılar Nathan Lambert ve Tom Zick, riskli yapay zekâ deneylerinin yöntemlerini kamuya açmayı hedefleyen kâr amacı gütmeyen Trillium Labs’i kurdu. İlk çalışmalar, ödüllerin model davranışını nasıl şekillendirdiği dahil eğitim sonrası uyarlama ve pekiştirmeli öğrenmeye odaklanıyor. Kurucular, başkalarının sonuçları inceleyebilmesi ve deneyleri tekrarlayabilmesi için ayrıntıları paylaşmayı planlıyor. Destekçileri arasında Schmidt Sciences ve Halcyon Futures bulunuyor.
Nathan Lambert ve Tom Zick, ileri yapay zekânın bilimsel temellerini kamuya açmayı hedefleyen kâr amacı gütmeyen Trillium Labs’i kurdu. İlk çalışmalar, modelin temel eğitiminden sonra uyarlanmasını sağlayan eğitim sonrası yöntemleri kapsıyor. Laboratuvar, dışarıdan incelenebilmesi için yöntemleri ve deney ayrıntılarını paylaşmayı amaçlıyor.[1], [2]
Laboratuvarın gündeminde ödüllerin davranışı şekillendirdiği pekiştirmeli öğrenme ve kendini geliştiren yapay zekâ sistemleri bulunuyor. Modellerin kullanıcıyı gereğinden fazla onaylama eğilimi ile eğitim sırasında oluşan karakter özellikleri de araştırma konuları arasında. Kurucular, başka araştırmacıların sonuçları incelemesine ve deneyleri tekrarlamasına olanak veren ayrıntıları yayımlamayı planlıyor. Hedefleri, bitmiş bir modeli uzaktan arayüzle sınamanın ötesinde, eğitim ve deney süreçlerini incelemeye açmak.[1]
Lambert, daha önce Allen Institute for AI’da açık modeller üzerine ve Hugging Face’te çalıştı. Amerikan kuruluşlarını daha açık modeller yayımlamaya teşvik eden American Truly Open Models girişimini de kurdu. Zick’in geçmişinde Harvard ve Charles Schwab’da sorumlu yapay zekâ çalışmaları bulunuyor. İkili, Berkeley’deki lisansüstü eğitimleri sırasında tanıştı. Laboratuvarın destekçileri arasında Schmidt Sciences ve Halcyon Futures var; sağlanan toplam kaynak açıklanmadı. Kuruluşun ilk faaliyeti araştırma üretmek ve deneyler için yüksek miktarda hesaplama kaynağı gerekiyor.[1]
