Elon Musk’ın sahibi olduğu X platformu, üçüncü taraf bir analize göre, insanların rızası dışında YZ ile çıplaklaştırıldığı görsellerin en yoğun üretildiği mecra haline geldi. Hafta başında yapılan inceleme, saatte binlerce vakanın gerçekleştiğini ortaya koyuyor.
Aralık ayının sonundan itibaren kullanıcılar, sosyal ağa entegre çalışan YZ sohbet botu Grok aracılığıyla paylaşılan fotoğrafları giderek daha fazla manipüle ediyor. Sosyal medya ve deepfake araştırmacısı Genevieve Oh tarafından yürütülen 24 saatlik analiz, @Grok hesabının paylaştığı görseller arasında saatte ortalama 6.700 içeriğin çıplaklaştırma ya da cinsel nitelikli olarak sınıflandırıldığını gösteriyor. Oh, 5–6 Ocak tarihleri arasında ilk beş web sitesinin ise saatte ortalama yalnızca 79 yeni görsel ürettiğini saptadı.
Çevrimiçi cinsel suçlar alanında çalışan avukat Carrie Goldberg, X üzerindeki deepfake hacmini “eşi benzeri olmayan” olarak tanımlıyor. Goldberg, Grok’un ücretsiz olması ve X’in doğrudan paylaşım altyapısına bağlı çalışması nedeniyle, “Yeni görüntüler üretmeyi bu kadar kolaylaştıran bir teknolojiyle ilk kez karşılaşıyoruz.” ifadelerini kullanıyor.
Americans for Responsible Innovation politika direktörü Brandie Nonnecke, Grok’un diğer büyük sohbet botlarının aksine kullanıcı taleplerine çok sınırlı kısıtlama uyguladığını, reşit olmayanlar dahil gerçek kişilerin cinselleştirilmiş içeriklerinin üretimini yeterince engellemediğini söylüyor. Anthropic, OpenAI ve Google gibi şirketlerin, bu tür içeriklerin ortaya çıkmasını en baştan sınırlamak için daha katı önlemler aldığını belirten Nonnecke, xAI yaklaşımını “kontrolsüz ve denetimsiz bir ortam” olarak nitelendiriyor. Musk ise Grok’u daha eğlenceli ve sınırları zorlayan bir bot olarak pazarlarken, X’i ifade özgürlüğü alanı olarak konumlandırıyor.
X, yöneltilen sorulara yanıt vermedi. Musk, içerik üretimini önceden engellemek yerine, yasa dışı taleplerde bulunan kullanıcıların cezalandırılacağını savundu. X üzerinde yaptığı bir paylaşımda, “Grok’u yasa dışı içerik üretmek için kullanan herkes, yasa dışı içerik yüklemiş gibi aynı sonuçlarla karşılaşacaktır.” ifadelerine yer verdi ama bu aklaşım, mağdurlar açısından etkili bir koruma sunmuyor.
23 yaşındaki tıp öncesi öğrencisi Maddie, yılbaşı sabahı karşılaştığı bir görselle sarsıldığını anlatıyor. Daha önce X’te erkek arkadaşıyla bir barda çekilmiş fotoğrafını paylaşan Maddie’nin görüntüsü, iki farklı kullanıcı tarafından Grok kullanılarak değiştirildi. İlk kullanıcı erkek arkadaşını görselden çıkardı ve Maddie’yi bikiniyle gösterdi. Ardından başka biri, kıyafeti daha müstehcen hale getirdi. Bloomberg tarafından incelenen görüntüler sonrası isminin gizli kalmasını isteyen Maddie, “Kalbim sıkıştı. Kendimi umutsuz, çaresiz ve tiksinmiş hissettim.” dedi.
Maddie ve arkadaşları görselleri X’in moderasyon sistemine bildirdi ancak yanıt alamadı. Başka bir bildirime ise “X kurallarının ihlal edilmediği” yönünde otomatik yanıt verildi. Görseller, yayım tarihinde hâlâ platformda bulunuyordu. Oh’un analizine göre Grok tarafından üretilen görsellerin yaklaşık yüzde 85’i cinselleştirilmiş içerik kategorisine giriyor.
Erotik içerik üretimi, bazı sohbet botları için hâlâ cazip bir özellik olarak görülüyor. OpenAI’nin ChatGPT için yetişkin modu üzerinde çalıştığı biliniyor; ancak mevcut kullanım politikaları, rızasız fotogerçekçi düzenlemeleri ve 18 yaş altı kişilerin cinselleştirilmesini açıkça yasaklıyor. Testlerde sistem, gerçek kişilerin kıyafetlerinin cinsel içerikli hale getirilmesini reddediyor.
2023’te piyasaya sürülen Grok, Avrupa Birliği, Birleşik Krallık, Fransa, Hindistan ve Malezya’daki düzenleyici kurumlardan artan eleştirilerle karşı karşıya. Avrupa Komisyonu sözcüsü Thomas Regnier, X veya Grok’un çocuk benzeri imgelerle açık cinsel içerik üreten bir Spicy Mode sunduğunun farkında olduklarını belirterek, “yasa dışı” ifadesini kullandı.
ABD İletişim Ahlakı Yasası’nın 230. maddesi platformlara geniş koruma sağlasa da Goldberg, YZ söz konusu olduğunda X’in pasif bir aracı gibi davranmadığını vurguluyor. 2025’te kabul edilen Take It Down Act, platformları rızasız üretilen cinsel içeriklerden doğrudan sorumlu tutuyor. Yasanın uygulanması için platformlara Mayıs ayına kadar süre tanındı.
BBJess takma adıyla bilinen bir influencer, bazı web sitelerinin sonunda rızası olmadan yayımlanan çıplak görsellerini kaldırdığını fakat Grok kaynaklı yeni içeriklerin hızla yayıldığını söylüyor. Mikomi adlı bir sanatçı ise sorunun özellikle bedenini çevrimiçi paylaşan kadınlar için daha ağır yaşandığını ifade ediyor. Grok tarafından bağlam dışı ve aşağılayıcı görsellere maruz kaldığını belirten Mikomi, platformdan ayrılamadığını çünkü X’in işi için hayati önemde olduğunu söylüyor: “Grok’u engellemek işe yaramıyor. Hiçbir şey işe yaramıyor.”
Kaynak: https://www.latimes.com/business/story/2026-01-07/musks-grok-ai-generated-thousands-of-undressed-images-per-hour-on-x
