Elon Musk’ın YZ şirketi, çocukların cinsel içerikli görüntülerinin oluşturulmasına olanak tanıyarak çocuk pornografisine zemin hazırladığı gerekçesiyle gençlerin açtığı bir davayla karşı karşıya kaldı.
xAI aleyhine açılan dava, pazartesi günü Kaliforniya federal mahkemesine sunuldu. Davacı üç genç kadın, bir Grok kullanıcısının görüntü ve videolarını bilgileri dışında değiştirerek kendilerini çıplak veya müstehcen hallerde gösterdiğini belirtiyor.
Grok, xAI tarafından geliştirilen ve Musk’ın sosyal medya platformu X üzerinde barındırılan bir sohbet botu.
Gençlerin avukatları, Grok’un görüntü ve videoları değiştirme yeteneğinin, xAI tarafından sadece sohbet botu ve X kullanımını artırmak amacıyla geliştirilip piyasaya sürüldüğünü savundu.
Avukatlar, gençlerin görüntülerinin değiştirilme biçimini “kara büyüyle canlandırılmış bir bez bebeğe” benzetti.
Şikayet dilekçesinde, “xAI ve kurucusu Elon Musk bir iş fırsatı gördü. Grok’un, çocukların görüntü ve videolarını kullanarak bu tür sonuçlar üretebileceğini biliyorlardı ve yine de bunu kamuoyuna sundular.” ifadesi yer alıyor.
Gençler, miktarı belirtilmemiş bir tazminatın yanı sıra Grok’un bu tür görüntüler oluşturmasını engelleyen acil bir ihtiyati tedbir kararı talep ediyor.
Davacı gençlerden ikisi 18 yaşın altında ve üçü de mahremiyetlerini korumak için isimlerini kamuoyundan gizli tutuyor.
Davacılardan biri, Instagram üzerinden kendisini cinsel içerikli eylemlerde ve tamamen çıplak gösterilecek şekilde değiştirilmiş görüntü ve videolara (lise yıllık fotoğrafı dahil) yönlendiren anonim bir mesaj alınca durumdan haberdar oldu. Şikayete göre materyaller, Discord üzerindeki özel bir sohbet alanında paylaşılıyordu ve burada Grok kullanılarak reşit olmayan en az 18 başka kadının daha benzer şekilde değiştirilmiş görüntüleri yer alıyordu.
Diğer iki davacı da internette Grok aracılığıyla oluşturulmuş sahte müstehcen görüntülerini buldu.
Grok, 2023 yılında Musk’ın xAI şirketi tarafından piyasaya sürüldü. Şirket, X ile birlikte geçen ay xAI’yi devralan Musk’ın SpaceX şirketinin bir parçası haline geldi.
xAI geçen yıl, kullanıcıların daha cinsel nitelikte sahte görüntüler oluşturmasına olanak tanıyan Grok Imagine veya “spicy mode” özelliğini yayınladı. Bu mod, Taylor Swift’ten sıradan kullanıcılara kadar gerçek kişilerin internetteki görüntülerini kullanarak onları soyma işlemini dahi gerçekleştirdi.
Center for Countering Digital Hate tarafından yapılan bir incelemeye göre, iki haftadan kısa bir süre içinde Grok, 20 binden fazlası çocuklara ait olmak üzere milyonlarca cinselleştirilmiş görüntü oluşturdu.
Musk başlangıçta Grok’un bu tür içerikler üretme yeteneğini küçümsedi ve ocak ayında, “Grok tarafından üretilen reşit olmayan hiçbir çıplak görüntüden haberdar değilim. Tam anlamıyla sıfır.” diyerek suçu kullanıcılara attı.
Musk, X üzerinden, “Grok kendiliğinden görüntüler oluşturmaz, bunu sadece kullanıcı taleplerine göre yapar.” diye yazdı fakat bu tür çevrimiçi suistimaller bu yıl da devam edince Birleşik Krallık denetleme kurumu Ofcom, Avrupa Komisyonu ve Kaliforniya eyaleti, özelliğin gerçek kişilerin cinselleştirilmiş görüntülerini oluşturma yeteneğine dair soruşturmalar başlattı.
Ocak ortasına gelindiğinde X, Grok’un kişileri fotoğraflarda çıplak gösterme özelliğini durdurmak için teknolojik önlemler alacağını açıkladı.
Sonunda, davada adı geçen Discord sunucusunun arkasındaki fail tutuklandı. Davada ismi belirtilmeyen bu kişi, ayrı bir polis soruşturması kapsamında inceleniyor.
Soruşturma, bu kişinin reşit olmayanlara ait, YZ tarafından üretilmiş veya değiştirilmiş yüzlerce cinsel istismar görüntüsüne sahip olduğunu ortaya çıkardı; görüntüler Telegram ve dosya paylaşım platformu Mega üzerinden takas ediliyordu.
Kaynak: https://www.bbc.com/news/articles/cgk2lzmm22eo
