Jesse Van Rootselaar, British Columbia eyaletinin kırsal bir kasabasını sarsan kitlesel saldırının şüphelisi olmadan aylar önce, OpenAI emniyet birimlerini uyarmayı düşündü.
Geçen haziran ayında ChatGPT kullanan Van Rootselaar, birkaç gün boyunca s*lahlı şiddet içeren senaryolar üzerine yazışmalar yaptı.
Otomatik bir inceleme sistemi tarafından işaretlenen mesajlar çalışanları alarma geçirdi. Şirket içinde yaklaşık bir düzine personel, Van Rootselaar’ın gönderileri üzerine ne yapacaklarını tartıştı. Bazı çalışanlar bu yazıları gerçek dünyada şiddet belirtisi olarak gördü ve liderleri Kanada polisini uyarmaya çağırdı.
OpenAI liderleri sonunda yetkililerle iletişime geçmeme kararı aldı.
Bir şirket sözcüsü, hesabın yasaklandığını ancak faaliyetlerin emniyete bildirme kriterlerini karşılamadığını belirtti. Kriter, eylemin başkalarına yönelik ciddi fiziksel zarar konusunda inandırıcı ve her an gerçekleşebilecek bir tehlike teşkil etmesini gerektiriyor.
10 Şubat tarihinde Van Rootselaar, sekiz kişinin *ldüğü saldırının gerçekleştiği okulda, kendi açtığı ateş sonucu *lü bulundu. Royal Canadian Mounted Police (RCMP, Kanada Kraliyet Atlı Polisi), 18 yaşındaki bir trans kadın olan Van Rootselaar’ın şüpheli olduğunu belirledi.
Şirket, saldırıyı öğrendikten sonra RCMP ile temasa geçti.
Sözcü yaptığı açıklamada, “Düşüncelerimiz Tumbler Ridge trajedisinden etkilenen herkesle birlikte.” ifadesini kullandı.
Saldırıdan sonra Van Rootselaar’ın diğer dijital izleri de belirdi. Bunlar arasında Roblox platformunda oluşturduğu bir kitlesel saldırı simülasyonu oyunu da bulunuyor. Sosyal medyada ise geçiş sürecine dair endişelerini, anime ve yasadışı uyuşturucu ilgisini paylaştı.
Çevrimiçi platformlar, kullanıcı gizliliği ile kamu güvenliği arasındaki dengeyi uzun süredir tartışıyor. Bu tartışma artık insanların en mahrem düşüncelerini paylaştığı sohbet botlarını yöneten YZ şirketleri için de geçerli hale geldi.
OpenAI, modellerini kullanıcıları zarar vermekten caydıracak şekilde eğittiğini söylüyor. Zarar verme niyeti içeren konuşmalar, yakın bir risk durumunda polise bildirim yapabilen insan denetçilere yönlendiriliyor.
Şirket, şiddet riskini tartarken mahremiyet unsurlarını ve gereksiz polis müdahalesinin bireyler üzerinde yaratabileceği stresi göz önünde bulundurduğunu belirtiyor.
Van Rootselaar, saldırıdan önce zaten yerel polis tarafından tanınıyordu. Akıl sağlığı sorunları nedeniyle ikametgahı birkaç kez ziyaret edildi ve s*lahlar evden geçici olarak alındı.
RCMP Komiseri Dwayne McDonald’a göre, bir müfettiş ekibi kitlesel saldırıya dair ipuçları için şüphelinin dijital izlerini ve geçmiş polis etkileşimlerini inceliyor.
Arşivlenen sosyal medya gönderileri, Van Rootselaar’ın poligonlarda ateş ederken fotoğraflarını, 3D yazıcı ile mermi kovanı ürettiği iddialarını ve s*lah meraklılarının hazırladığı YouTube videoları üzerine yaptığı tartışmaları gösteriyor.
Kaynak: https://www.wsj.com/us-news/law/openai-employees-raised-alarms-about-canada-shooting-suspect-months-ago-b585df62
