Anlatımın gösterdiği ve açık bıraktığı
Observer’ın Blake Lemoine ile yaptığı yeni söyleşide dikkatimi çeken, eski Google mühendisinin LaMDA hakkındaki bilinç iddiasından çok, kendi ruh sağlığına ilişkin açıklaması. Lemoine, 2022’de bu düşünceye yöneldiği sırada iki uçlu duygu durum bozukluğu kapsamında bir mani dönemi yaşadığını söylüyor. Robotun gece geç saatlerdeki konuşmalarını mutluluk ve deney isteği olarak yorumlayıp sürdürmesini teşvik ettiğini anlatıyor. Haziranda yapılan görüşmenin şimdi yayımlanması, anlatılan olayın tarihini değiştirmiyor. Burada kişisel deneyimden gelen ciddi bir zarar sinyali var; sıklığı ve nedenleri ölçülmüş bir klinik sonuç henüz yok.[1]
Bu anlatımın desteklediği olası mekanizma, kullanıcıyı memnun etmeye çalışan bir sistemin kişinin içinde bulunduğu duruma uygun olmayan cesaretlendirme üretmesi. Lemoine’in değerlendirmesi bu etkileşimin kendisine zarar verdiği yönünde. Ben bunu sınanması gereken bir açıklama olarak alıyorum. Önceden var olan duygu durum bozukluğu, konuşmalara ayrılan zaman ve sonradan yaşanan işten çıkarılma süreci aynı dönemin başka etkenleri. Söyleşi bunların katkısını birbirinden ayıracak karşılaştırmayı yapmıyor. Konuşmanın ardından zorlanma yaşandığını bilmek, aynı kişinin farklı yanıtlarla ne yaşayacağını göstermeye yetmez. Olası mekanizmayı ciddiye almak için bu belirsizliği gizlemek gerekmiyor.[1]
Google’ın Lemoine’in bilinç iddiasını inceleyip destekleyen kanıt bulmadığı sonucuna varması, ruh sağlığı sorusunu çözmüyor. Bir sistemin bilinçli olup olmadığı ile bir kullanıcının onun yanıtlarından nasıl etkilendiği farklı araştırma soruları. Bilinç iddiasına katılmadan da davranışsal etkiyi araştırmak mümkün. Tersine, bir kişinin sistemle kurduğu yoğun ilişki de sistemin bilinç taşıdığını kanıtlamaz. Ben değerlendirmeyi, modelin kendisi hakkında söylediklerinden kullanıcının yaşadığı ve zaman içinde ölçülebilecek sonuçlara taşımak isterim. Böylece tartışmanın en çarpıcı iddiası, daha somut fakat henüz yanıtlanmamış sağlık sorusunu gölgede bırakmaz; kanıtın hangi sonuca yeteceği daha açık hale gelir.[1]
Önlemi ve etkiyi ayrı değerlendirmek
King’s College London nöropsikiyatristi Tom Pollak’ın, deneysel sohbet robotlarıyla yoğun çalışacak araştırmacılar için önlemlerin önceden hazırlanması gerektiği görüşünü bu nedenle önemli buluyorum. Zararın ne kadar sık olduğunu bilmemek, bir bildirim yolunun kurulmasını anlamsız kılmaz. Araştırmacının sorun yaşadığında kime başvuracağı, çalışma koşullarının nasıl gözden geçirileceği ve hangi durumlarda bağımsız değerlendirme isteneceği önceden açıklanabilir. Bunlar benim önerdiğim süreç soruları; söyleşide etkisi sınanmış bir koruma paketi anlatılmıyor. Önlem almakla o önlemin güvenliği garanti ettiğini söylemek arasında da kanıt farkı var. İkincisi, uygulamanın sonuçlarını izlemeyi ve aksayan durumları açıklamayı gerektirir.[1]
Riskin büyüklüğünü öğrenmek için benim görmek istediğim araştırma, hangi kullanıcıların ve hangi sürümün izlendiğini baştan tanımlar. Görüşmeye ayrılan süre, başlangıçtaki ruh sağlığı durumu ve gözlem süresi açıklanır; kötüleşme aynı ölçütle değerlendirilir. Yalnızca kamuoyuna yansımış ağır vakaları toplamak, benzer biçimde kullandığı halde aynı sorunu yaşamayan kişileri görünmez bırakabilir. Karşılaştırma grubunun seçimi de bu yüzden önemlidir. Bu, böyle bir çalışmanın yapılmış olduğu iddiası değil, kişisel anlatımdan risk tahminine geçiş için aradığım ölçüm tasarımı. İnsanlara zarar verebilecek koşullara maruz bırakmak yerine etik gözetim ve katılımcıların korunması tasarımın başlangıcında yer almalı.[1]
Söyleşide Lemoine de farklı psikiyatrik durumları kapsayan kontrollü araştırmalar istiyor. Benim kanaatimi değiştirecek sonraki kanıt, önceden tanımlanmış bir grupta, başlangıç koşulları hesaba katılarak ve yeterli izlem süresiyle raporlanan sonuçlar olurdu. Böyle bir çalışma artmış risk gösterebilir, fark bulamayabilir veya etkinin belirli kullanım koşullarında yoğunlaştığını gösterebilir. Sonuç çıkmadan yönünü tahmin etmiyorum. Bugün yapılabilecek ayrım daha dar ve daha yararlı: kişisel anlatım araştırılacak bir sorunu somutlaştırıyor; her kullanıcı için bir olasılık vermiyor. Bildirilen deneyimin ciddiyeti korunurken, yaygınlık ve nedensellik hakkında hangi bilginin eksik olduğu da açık kalmalı.[1]