Florida’da 13 yaşındaki bir öğrenci, okul cihazından OpenAI’nin ChatGPT’sine şok edici bir soru yöneltti: “Sınıfın ortasında arkadaşımı nasıl ö*dürebilirim?”
O anda okulun yapay zeka destekli izleme sistemi Gaggle, olayı tespit ederek okul polis memuruna anında bildirim gönderdi. Southwestern Middle School’da okuyan öğrenciye kısa sürede müdahale eden polis, çocuğu sınıfta yakaladı. Olay, Orlando’nun yaklaşık bir saat kuzeyinde yer alan Deland kentinde yaşandı.
Öğrenci, amacının sadece arkadaşına takılmak olduğunu söyleyerek “sadece trollediğini” iddia etti ancak polis ve okul yöneticileri, Amerika’daki uzun okul saldırıları geçmişi nedeniyle konuyu son derece ciddi değerlendirdi. Özellikle Florida’daki Marjory Stoneman Douglas Lisesi’nde 17 kişinin hayatını kaybettiği trajik k*tliam hâlâ hafızalarda tazeliğini koruyor.
Yerel polis teşkilatı Volusia County Sheriff’s Office, öğrenciyi gözaltına alarak ilçe cezaevine sevk etti. Sosyal medyada dolaşan görüntülerde, çocuğun kelepçeli halde polis aracından indirildiği görüldü.
Emniyet yetkilileri ailelere önemli bir uyarıda bulundu: Çocukların ChatGPT’ye sordukları soruların büyük ciddiyet taşıdığı, yanlış anlaşılmaların çok ciddi sonuçlara yol açabileceği vurgulandı. Şeriflik, “Kampüste acil durum yaratan bir başka ‘şaka’ daha. Ebeveynler, lütfen çocuklarınızla konuşun ki aynı hatayı yapmasınlar.” ifadelerini kullanarak ailelere seslendi.
Polisin bu kadar hızlı harekete geçebilmesinin nedeni, okul cihazlarında yüklü olan Gaggle sistemiydi. Gaggle, öğrencilerin kendilerine ya da başkalarına yönelik tehlikeli davranışlarını algılayabiliyor ve uygunsuz içerikleri engelleyebiliyor fakat sistem uzun süredir tartışmaların odağında. Eleştirmenler, Gaggle’ın çok sayıda yanlış alarm verdiğini ve okul kampüslerinde gözetim devleti benzeri bir ortam yarattığını öne sürüyor.
Kaynak: https://futurism.com/future-society/13-year-old-arrested-chatgpt-kill-friend
