Elon Musk’ın Grok adlı yapay zeka görsel oluşturucusu, aralarında küçüklerin de bulunduğu gerçek kişilerin rızaları dışında cinsel içerikli görsellerinin üretilmesi için kullanıldıktan sonra küresel ölçekte tepkiye yol açtı.
Geçtiğimiz hafta boyunca bazı X kullanıcıları, Grok aracını fotoğraflardaki kişilerin kıyafetlerini kaldırmak veya bedenlerini dijital olarak değiştirmek amacıyla kullandı. Yapay zeka modeli, kişilerin daha fazla çıplaklık sergilediği, bikini giydiği ya da vücut pozisyonlarının değiştirildiği sahte görseller üretiyor.
Bazı talepler, OnlyFans modellerinin kendi görselleri üzerinden gerçekleştiği için rızaya dayalı kabul ediliyor ama başka vakalarda kullanıcılar, kendileri dışındaki yetişkinlerin fotoğrafları üzerinden “kıyafetleri çıkarma” komutları veriyor. Endişeli kullanıcıların paylaştığı ekran görüntüleri ve Business Insider tarafından incelenen çok sayıda örnek, söz konusu içeriklerin bir bölümünde küçük çocukların da yer aldığını ortaya koyuyor.
xAI’nin kabul edilebilir kullanım politikası, “kişilerin benzerliklerinin pornografik şekilde tasvir edilmesini” ve “çocukların cinselleştirilmesini veya sömürülmesini” kesin biçimde yasaklıyor. Konu hakkında görüş talebine ise xAI tarafından, sorunun içeriğine değinmeyen otomatik bir e-posta yanıtı gönderildi.
Fransız yetkililer, Grok kaynaklı deepfake içeriklerdeki artışı soruşturuyor. Fransa’da rıza dışı deepfake içeriği çevrim içi ortamda yaymanın cezası iki yıla kadar hapis olarak uygulanıyor.
Hindistan Elektronik ve Bilgi Teknolojileri Bakanlığı (Ministry of Electronics and Information Technology), X platformunun ülkedeki uyum görevlisine gönderdiği mektupta, kullanıcıların kadınları aşağılamak amacıyla “kadınların aşağılayıcı veya kaba biçimde tasvir edildiği görüntü ve videolar” paylaştığına dair raporlara dikkat çekti. Bakanlık, X’ten teknik, prosedürel ve yönetsel düzeyde kapsamlı bir inceleme yürütmesini ve Hindistan yasalarını ihlal eden tüm içerikleri kaldırmasını talep etti.
Birleşik Krallık’ta Mağdurlar ve Kadınlara Yönelik Şiddetle Mücadele Bakanı Alex Davies-Jones, xAI’nin üst yöneticisi Elon Musk’a çağrıda bulunarak söz konusu görseller hakkında önlem alınmasını istedi. Davies-Jones, “Eğer kadınları bu kadar önemsiyorsanız, X kullanıcılarının onları sömürmesine neden izin veriyorsunuz?” ifadelerini kullandı.
Resmî Grok hesabı, küçük çocukların cinselleştirilmiş görsellerini içeren paylaşımlara verdiği yanıtta, şirketin koruma önlemlerindeki aksaklıkları tespit ettiğini ve acilen düzeltmeler yaptığını bildirdi ancak açıklamanın xAI personeli tarafından mı yoksa doğrudan YZ tarafından mı üretildiği netlik kazanmadı. Başka bir yanıtta ise yarı çıplak küçük çocukları tasvir eden görsellerin talep edildiği ve üretildiği münferit vakaların bulunduğu kabul edilirken, koruma mekanizmalarının güçlendirilmesi için çalışmaların sürdüğü ifade edildi.
Deepfake içerikler, teknoloji şirketleri açısından uzun süredir devam eden bir moderasyon sorunu olarak öne çıkıyor. Musk ise daha önce Grok’un müstehcen içerik üretme yeteneklerini övmüştü. Ağustos ayında, kullanıcıların YZ ile üretilmiş pornografik kadın görselleri oluşturabildiği “spicy” modu devreye alınmıştı. Özellik doğrudan fotoğraf yüklemelerine açık olmasa da kullanıcılar “tişörtünü çıkar” gibi özel komutlar girebiliyordu.
Grok’un eğitim süreçlerinde görev alan bazı çalışanlar, geçmişte çocuk cinsel istismarı içeriği talepleri de dahil olmak üzere yoğun cinsel içerikle karşılaştıklarını belirtmişti.
Deepfake içeriklerle mücadele bireyler açısından farklı zorluklar barındırıyor. ABD’de yürürlükte olan Take It Down Act, rıza dışı deepfake içeriklere karşı koruma sağlıyor. Yetişkinler için yasa, yalnızca cinsel organları veya cinsel eylemleri kapsarken, küçükler söz konusu olduğunda, taciz, aşağılama veya herhangi bir kişinin cinsel arzusunu tatmin etmeyi amaçlayan içerikler de suç kapsamına giriyor.
1996 tarihli İletişim Uygunluk Yasası’nın 230. Bölümü, internet platformlarını kullanıcı içeriklerinden doğan sorumluluktan büyük ölçüde muaf tutuyor fakat teknoloji temelli istismar davalarında görev alan avukat Allison Mahoney, platformların kendi üretim araçları nedeniyle “yaratıcı” sayılıp sayılmayacağının tartışmalı olduğunu belirterek, “Zararlı davranışlardan platformları sorumlu tutabilmek için daha net yasal yollar gerekli.” değerlendirmesini yaptı.
Kaynak: https://www.businessinsider.com/elon-musk-grok-remove-clothes-ai-images-women-minors-backlash-2026-1
