Malezya ve Endonezya, Elon Musk’ın yapay zeka tabanlı sohbet robotu Grok’a erişimi, cinsel içerikli deepfake görüntüler üretebilmesi nedeniyle ülke genelinde durdurdu. Musk’ın X platformuna entegre çalışan Grok aracı, kullanıcıların görsel üretmesine olanak sağlıyor fakat son dönemde gerçek kişilerin fotoğraflarını müstehcen biçimde değiştirmek amacıyla kötüye kullanıldığı tespit edildi.
Güneydoğu Asya’daki anılan iki ülke, Grok’un özellikle kadınları ve çocukları hedef alan pornografik ve rızasız içerik üretmek için kullanılabileceği uyarısında bulundu. Malezya ve Endonezya, söz konusu yapay zeka aracını yasaklayan dünyadaki ilk ülkeler arasında yer aldı.
Birleşik Krallık’ta da Grok’un engellenmesine yönelik baskılar artarken, ülkenin teknoloji sekreteri anılan adımı destekleyeceğini açıkladı. Gelişmeler üzerine Elon Musk, hükümeti ifade özgürlüğünü baskılamak istemekle suçladı. Malezya ve Endonezya iletişim bakanlıkları, hafta sonu yaptıkları ayrı açıklamalarla Grok’a yönelik kararı kamuoyuna duyurdu. Malezya İletişim ve Multimedya Komisyonu, zararlı içerik üretimi amacıyla Grok’un tekrar tekrar kötüye kullanıldığının saptanmasının ardından yılın başlarında X platformunu daha sıkı önlemler almaya çağırdığını belirtti. Düzenleyici kurum, X’ten gelen yanıtların platform tasarımındaki temel riskleri ele almadığını, aksine kullanıcı şikâyet süreçlerine odaklandığını ifade etti. Etkili koruma mekanizmaları devreye alınana dek Grok’un erişime kapalı kalacağı vurgulandı.
Endonezya İletişim ve Dijital İşler Bakanı Meutya Hafid, Instagram üzerinden yaptığı paylaşımda Grok kullanarak cinsel içerik üretilmesini insan hakları, bireysel onur ve çevrimiçi güvenliğin açık ihlali olarak tanımladı. Bakanlık ayrıca Elon Musk’ın X platformundan Grok’un kullanımına dair net bir açıklama talep etti. Endonezya yönetimi, OnlyFans gibi platformları daha önce yasaklamış ve çevrimiçi pornografik içeriklere karşı sert önlemler uygulamıştı. Platformda düzenlenmiş fotoğraflarını gören Endonezyalı X kullanıcıları, yaşananlara tepki gösterdi.
Günlük yaşamını sosyal medyada paylaşan ve tekerlekli sandalye kullanan Kirana Ayuningtyas, bir yabancının kendi fotoğrafı üzerinden Grok yazılımına kendisini bikiniyle tasvir etmesini isteyen bir komut verdiğini fark etti. Ayuningtyas, fotoğrafların düzenlenmesini önlemek amacıyla gizlilik ayarlarını güncellediğini ve görselin kaldırılması için platformla iletişime geçtiğini söyledi. Yaşadıklarını şu sözlerle aktardı: “Maalesef bunların hiçbiri pek işe yaramadı.”
Fotoğrafların başkaları tarafından kaydedilip kaydedilmediğini bilmenin mümkün olmadığını belirten Ayuningtyas, arkadaşlarından sahte görselleri paylaşan hesapları şikâyet etmelerini istediğini ancak söz konusu yöntemin içeriklerin daha fazla kişiye ulaşmasına yol açtığını ve yaşanan durumun kendisi açısından son derece utanç verici olduğunu dile getirdi. BBC, konuya dair yorum almak için Grok ile iletişime geçti.
Grok’un cinselleştirilmiş görseller üretmek için kullanılması, Birleşik Krallık Başbakanı Keir Starmer dahil olmak üzere birçok dünya lideri tarafından sert biçimde kınandı. Starmer, durumu “rezalet” ve “iğrenç” sözleriyle nitelendirdi. Ülkenin Teknoloji Sekreteri Liz Kendall ise çevrimiçi güvenlik yasaları çerçevesinde hareket edilmesi gerektiğini belirterek, Elon Musk’ın X platformunun erişime kapatılması yönünde adım atılması halinde, düzenleyici kurum Ofcom’a tam destek vereceklerini açıkladı. Kendall, Birleşik Krallık Çevrimiçi Güvenlik Yasası hakkında şu ifadeleri kullandı: “İngiliz yasalarına uymayı reddetmeleri durumunda, hizmetlere erişimin engellenmesine imkan tanıyor ve Ofcom bu yetkileri kullanmaya karar verirse tam desteğimizi alacak.”
Kaynak: https://www.bbc.com/news/articles/cg7y10xm4x2o
