Fotoğraftan dağıtıma

Arjantin’in Buenos Aires bölgesindeki Lomas de Zamora’da üç ev arandı. Colegio Modelo adlı okulun dört öğrencisi, arkadaşlarının gerçek fotoğraflarından yapay zekâyla cinsel içerikli sahte görüntüler üretip satmakla suçlanıyor. Telefonlara ve bilgisayarlara el konulması, soruşturmayı görüntünün nasıl göründüğünden nasıl üretildiğine ve kimler arasında dolaştığına taşıyor. Burada her öğrencinin rolünü ayrı ayrı belirlemek gerekiyor. Arama kararı ve cihazlara el konulması, suçlamaların yargı kararıyla kesinleştiği anlamına gelmiyor.[1]

Ailelerin anlatımında görüntüler, WhatsApp grupları ve kız öğrencilerin gerçek fotoğraflarıyla bilgilerini içeren listeler üzerinden sunuluyor. Bazı aileler görüntülerin başka okullara ve internet sitelerine ulaştığını da söylüyor. Bu iddialardaki önemli bağlantı, değiştirilmiş görüntünün gerçek bir öğrenciye bağlanması. Yapay zekâ fotoğrafı değiştirse de yanında taşınan bilgiler kişinin kimliğini görünür tutuyor. Bu yüzden paylaşımın izini sürmek, yalnız kullanılan uygulamayı bulmaktan daha geniş bir soruya yanıt arıyor: görüntü hangi bilgilerle, kime sunuldu?[1]

Bir cihazda farklı roller

El konulan cihazların incelenmesi, üretim, saklama ve paylaşma aşamalarına ilişkin delil toplamayı amaçlıyor. Bu aşamalar sorumluluğu anlamak için ayrı ayrı önem taşıyor. Bir görüntüyü oluşturmak, başkasından almak ve yeniden paylaşmak farklı davranışlar. Aynı görüntünün birden fazla cihazda bulunması, bu davranışları kendiliğinden birbirine eşitlemez. İncelemenin değeri, her kopyanın hangi işlemle ve hangi kişinin rolüyle bağlantılı olduğunu açıklayabilmesinde. Henüz belirlenmemiş bağlantıları, görüntünün yarattığı haklı tepkiyle doldurmak soruşturmanın işini kolaylaştırmaz.[1]

Uygulamanın ücretini bir yetişkinin kredi kartıyla ödediği iddiası da araştırılıyor. Ödeme izi, uygulamaya erişimin nasıl sağlandığı sorusunu açıyor; kişinin kullanım amacını bilip bilmediği ve üretime ya da dağıtıma katılıp katılmadığı henüz belirlenmiş değil. Benim için burada temel ayrım, ödeme yapmak ile görüntü üzerinde yapılan işlemler arasındaki bağlantı. Bilmeden ödeme yapılmış olması da değerlendirilmesi gereken bir açıklama. Bu olasılık suçlamayı çözüme kavuşturmaz; yetişkinin bilgisi ve katılımı için ayrıca delil gerektiğini gösterir.[1]

Öğrenciyi korumak, dolaşımı anlamak

Okul yönetimi ve eğitim denetimi, soruşturulan dört öğrencinin derslerini çevrim içi sürdürmesine karar verdi. Böylece etkilenen öğrencilerle aynı sınıfı paylaşmaları önleniyor. Bu karar, okul ortamındaki karşılaşmaya doğrudan müdahale ediyor. Ailelerin anlattığı daha geniş dolaşım ise başka bir sorun: başka okula veya internet sitesine ulaşan kopya, sınıf düzeninin dışında kalıyor. Öğrenciyi okulda korumak ile görüntünün geçtiği yerleri belirlemek birbirini tamamlayan işler; her biri farklı bir bağlantıyı ele alıyor.[1]

Lomas de Zamora dosyasında yararlı ilerleme, görüntünün üretimini, paylaşımını ve her kişinin rolünü somut delille birbirine bağlayan inceleme. Etkilenen öğrenciler açısından görüntüyü gerçek kimliklerine bağlayan bilgilerin nasıl dolaştığı da aynı ölçüde önemli. Bu izlerin açıklığa kavuşması, sorumluluğun hangi davranışa dayandığını tartışmayı mümkün kılar. Yapay zekâ aracının adı, bütün bu ilişkilerin yerini dolduramaz. Soruşturmanın odağında hem görüntüye yapılan işlem hem de gerçek öğrenciyi bu görüntüyle baş başa bırakan paylaşım var.[1]