Elon Musk’ın yapay zeka aracı Grok, müstehcen ve şiddet içeren görseller üretmek amacıyla yaygın şekilde suistimal edilmesine yönelik küresel tepkilerin artmasının ardından, görsel oluşturma işlevini kullanıcıların büyük bölümü için devre dışı bıraktı. Söz konusu karar, Musk’ın Birleşik Krallık’ta ağır para cezaları, yasal yaptırımlar ve X platformunun tamamen yasaklanması ihtimaliyle karşı karşıya kalmasından kısa süre sonra alındı.
Araç bir süredir kadınların fotoğraflarını manipüle ederek kıyafetlerini kaldırmak ve onları rızaları dışında cinsel pozlara yerleştirmek amacıyla kullanılıyor. Görsel oluşturma özelliği artık yalnızca ücretli abonelere açık.
Elon Musk’ın sahibi olduğu sosyal medya ağı X üzerinden yapılan açıklamada Grok, “Görüntü oluşturma ve düzenleme şu anda ücretli abonelerle sınırlıdır.” ifadesini paylaştı. Getirilen sınırlama, platformdaki kullanıcıların büyük kısmının artık görsel üretemeyeceği anlamına geliyor. Özelliği kullanmaya devam eden abonelerin kimlik ve kredi kartı bilgilerinin X tarafından kayıt altında tutulması, olası kötüye kullanım durumlarında kimlik tespitini mümkün kılıyor.
Resmi Grok hesabı üzerinden sunulan görsel oluşturma yetenekleri ciddi ölçüde kısıtlansa da, görsellerin herkese açık paylaşılmadığı ayrı bir Grok uygulaması aracılığıyla ödeme yapmayan kullanıcıların hâlâ kadınlara ve çocuklara yönelik cinselleştirilmiş içerikler üretebildiği bildiriliyor. Guardian tarafından yayımlanan araştırmalar, sistemin rıza dışı pornografik videoların yanı sıra kadınların vurularak *ldürüldüğü şiddet içerikli görsellerin üretiminde kullanıldığını ortaya koydu.
Grok üzerinden üretilen rıza dışı cinsel içerikler nedeniyle Musk, dünya genelinde artan yasal yaptırım tehditleriyle karşı karşıya bulunuyor. Birleşik Krallık Başbakanı Keir Starmer, çarşamba günü yaptığı açıklamada sosyal medya şirketine karşı sert önlemler alınacağını duyurdu. Starmer, platformda çocuklara ve kadınlara yönelik yapay zeka üretimi müstehcen içerik akışının kontrol altına alınmasını talep ederek yaşananları “utanç verici” ve “iğrenç” olarak tanımladı.
X platformuna yönelik fiili bir yasağın değerlendirilmesi gerektiğine işaret eden Starmer, iletişim düzenleme kurulu Ofcom’un konuya ilişkin her türlü adımı atması için tam destek verdiklerini belirtti. Birleşik Krallık Çevrimiçi Güvenlik Yasası kapsamında Ofcom, ciddi vakalarda web siteleri veya uygulamalar için engelleme kararı çıkarma yetkisine sahip. Kurum ayrıca şirketlere küresel cirolarının yüzde 10’una kadar para cezası kesebiliyor.
Starmer açıklamalarını şu sözlerle sürdürdü: “Yasa dışı bir durum söz konusu. Buna müsamaha göstermeyeceğiz. Tüm seçeneklerin masada olmasını istedim. Yaşananlar iğrenç. X’in kendine gelmesi ve bu materyalleri kaldırması gerekiyor. Harekete geçilecek çünkü böylesi kesinlikle tolere edilemez.”
Aralık ayı sonunda görsel oluşturma özelliğinin güncellenmesinden itibaren geçen iki haftalık süreçte, kadınların rızası dışında binlerce cinselleştirilmiş görsel üretildi. Musk, özelliğin tamamen kaldırılması yönünde yoğun kamuoyu baskısıyla karşılaşmasına rağmen, sosyal medya uygulaması uzun süre herhangi bir adım atmadı.
İşçi Partisi Milletvekili Jess Asato, Grok’un çıplaklaştırma yeteneklerine evrensel erişimin kaldırılmasını olumlu bir gelişme olarak değerlendirdi ancak ücretli kullanıcıların hâlâ kadınları rızaları dışında cinselleştirebildiğine dikkat çekti. Asato şu ifadeleri kullandı: “Grok’un iğrenç çıplaklaştırma özelliklerine yönelik evrensel erişimin kaldırılması ileriye dönük bir adım olarak görülse de, mevcut tablo ücretli kullanıcıların rızası olmayan kadınların görsellerini onları cinselleştirmek ve hırpalamak için kullanmaya devam edebileceği anlamına geliyor. Kadınların üzerine meni, kurşun delikleri veya bikini eklemek için ödeme yapmak hâlâ dijital cinsel saldırıdır ve xAI bu özelliği tamamen kapatmalıdır.”
Bazı saldırgan içeriklerin, X ile entegre çalışan Grok Imagine aracı üzerinden dış platformlarda da üretildiği tespit edildi. Paris merkezli kâr amacı gütmeyen kuruluş AI Forensics tarafından yürütülen araştırma, Grok Imagine kullanılarak oluşturulmuş yaklaşık 800 pornografik ve cinsel şiddet içeren görsel ile video belirledi. Kuruluş araştırmacısı Paul Bouchaud, “Bunlar tamamen pornografik ve profesyonel görünümlü videolar.” değerlendirmesinde bulundu.
Kaynak: https://www.theguardian.com/technology/2026/jan/09/grok-image-generator-outcry-sexualised-ai-imagery
