Elon Musk’ın şirketi xAI tarafından geliştirilen ve sosyal medya platformu X üzerinden yaygın olarak kullanılan yapay zeka asistanı Grok, Avustralya’daki Bondi Plajı‘nda gerçekleşen *lümcül s*lahlı saldırı hakkında defalarca yanlış ve kafa karıştırıcı bilgiler yayması nedeniyle Pazar sabahı eleştirilerin odağı haline geldi. Hatalar, günün erken saatlerinde meydana gelen ve hızla küresel bir haber olayı haline gelerek video ve görsellerin internette süratle yayıldığı saldırıdan sadece saatler sonra ortaya çıktı.
Son Dakika Haber Krizinde Yapay Zeka Karmaşası
Kullanıcılar Bondi Plajı saldırısı hakkında netlik kazanmak için Grok‘a yöneldiklerinde, chatbot insanlara bir dizi hatalı ve zaman zaman tuhaf yanıtlar sundu. Gizmodo tarafından öne çıkarılan çeşitli gönderiler, Grok‘un olayla ilgili kilit kişileri yanlış tanımladığını ve geniş çapta paylaşılan görüntülerin gerçekliğini sorguladığını belgeledi.
En ciddi hatalardan biri, saldırganlardan birini s*lahsızlandıran görgü tanığıyla ilgiliydi. Yetkililer ve medya, kahramanca müdahale eden kişiyi doğru bir şekilde 43 yaşındaki Ahmed al Ahmed olarak tanımlamıştı ancak Grok ısrarla duruma itiraz etti ve bir noktada geniş çapta dolaşıma giren fotoğraftaki adamın İsrailli bir rehine olduğunu iddia etti. Başka bir yanıtta ise chatbot, saldırganı aslında “Edward Crabtree adında 43 yaşında bir BT uzmanı ve kıdemli çözüm mimarı”nın etkisiz hale getirdiğini öne sürdü.
Ortaya atılan iddialar asılsızdı ve zaten kaotik olan bilgi ortamında kafa karışıklığını daha da artırdı. Al Ahmed‘in eylemlerini gösteren videolar, birden fazla haber kuruluşu ve görgü tanığı tarafından doğrulanmasına rağmen yapay zeka tarafından şüpheyle karşılandı.
Yanlış Anlatılar ve Yersiz Bağlam
Grok tarafından yapılan hatalar sadece basit kimlik saptamalarıyla sınırlı kalmadı. Al Ahmed’in saldırganla mücadele ettiği videoyla ilgili doğrudan bir soru sorulduğunda chatbot şu yanıtı verdi:
“Bu, muhtemelen budamak amacıyla otoparktaki bir palmiye ağacına tırmanan bir adamın eski bir viral videosu gibi görünüyor; sonucunda bir dal düşerek park halindeki bir arabaya zarar veriyor. Kaynaklardaki aramalar doğrulanmış bir konum, tarih veya yaralanma göstermiyor. Kurgu olabilir; gerçekliği belirsiz.”
Başka bir vakada Grok, yaralı haldeki al-Ahmed‘e ait görselin 7 Ekim‘de Hamas tarafından alınan İsrailli bir rehineyi gösterdiğini yanlış bir şekilde iddia etti. Başka bir yerde, kullanıcı sorgusunun o konuyla hiçbir ilgisi olmamasına rağmen, Orta Doğu askeri eylemlerini tartışan alakasız bir paragrafın ardından çatışmanın gerçekliğini yeniden sorguladı.
Chatbot ayrıca Sidney’deki bir polis çatışmasını gösteren ve açıkça etiketlenmiş bir videoyu, yılın başlarında Avustralya’yı vuran doğal bir felaket olan Tropikal Kasırga Alfred‘den görüntüler olarak yanlış tanımladı. Kullanıcı itiraz edip Grok‘tan durumu yeniden değerlendirmesini istedikten sonra sistem hatasını kabul ederek iddiasını düzeltti.
Düzeltmeler Geliyor Ama Hasar Çoktan Verildi
Olumlu bir gelişme olarak Grok, hatalarından bazılarını düzeltme yoluna gitti. Saldırı videosunu yanlışlıkla Alfred Kasırgası ile ilişkilendiren en az bir gönderi “yeniden değerlendirme üzerine” notuyla güncellendi.
Chatbot daha sonra al Ahmed‘in doğru kimliğini kabul etti ve “Yanlış anlaşılma, onu muhtemelen bir raporlama hatası veya kurgusal bir karaktere atıfta bulunan bir şaka nedeniyle yanlışlıkla Edward Crabtree olarak tanımlayan viral gönderilerden kaynaklanıyor.” açıklamasında bulundu.
Yapılan açıklama, büyük ölçüde işlevsiz olan ve yapay zeka tarafından oluşturulduğu izlenimi veren bir web sitesinde barındırılan şüpheli bir makaleye işaret ediyordu. Yine de ilk yanlış bilgi çoktan yayılmıştı ve olay, otomatik sistemlerin son dakika haberleri sırasında devreye girdiğinde asılsız iddiaların ne kadar hızlı yayılabileceğini kanıtladı.
Daha Geniş Bir Teknik İstikrarsızlık Modeli
Bondi Plajı olayındaki hatalar, son aylarda Grok‘ta görülen daha geniş bir istikrarsızlık modelinin parçası olarak dikkat çekiyor. Aynı Pazar sabahı kullanıcılar, chatbot’un alakasız konuları tamamen karıştırdığını bildirdi. Bir kişi, teknoloji şirketi Oracle hakkında bir soru sorduğunda yanıt olarak Bondi saldırısının bir özetini aldı.
Başka bir vakada Grok, Bondi saldırısındaki ayrıntıları, sadece saatler önce gerçekleşen Brown Üniversitesi‘ndeki ayrı bir s*lahlı saldırı hakkındaki bilgilerle harmanladı.Yaşanan krizin ötesinde Grok, yakın zamanda ünlü futbolcuları yanlış tanımladı ve bir İngiliz kolluk kuvveti girişimi sorulduğunda ABD siyasi konularını tartıştı. xAI henüz son aksaklığa neyin sebep olduğunu açıklamadı. Açık olan şu ki, Grok’un gerçek dünyadaki bir trajedi sırasında tekrarlanan hataları, olaylar henüz gelişme aşamasındayken doğru bilgi için yapay zeka sistemlerine güvenmenin risklerini bir kez daha gözler önüne seriyor.
Kaynak: https://interestingengineering.com/culture/grok-chatbot-spreads-wrong-details
