YZ tarafından üretilen tavsiyelere güvenmek, California’daki Mount Shasta’ya yapacakları 8 saatlik tırmanış planı yorucu bir üç günlük çileye dönüşen üç dağcı için “kritik bir hata” oldu. Yaklaşık 3.350 metre yükseklikte mahsur kalan dağcılar, yaşanan bir yaralanma ve başarısız olan iki helikopter tahliyesinin ardından karmaşık ve birkaç gün süren bir operasyonla nihayet kurtarıldı.
Saat 03:00‘te yola çıkan grup, 16 saat sonra dağın zirvesine ulaştı ancak içlerinden birinin düşüp bacağını yaralamasının ardından inişe geçtiklerinde yollarını kaybettiler. Kurtarma ekipleri grubu bir gün sonra güvenli bir şekilde tahliye etti.
Yürüyüşçüler kurtarma ekiplerine, gezilerini planlamak için YouTube, doğa sporları uygulaması AllTrails ve Google Gemini YZ dâhil olmak üzere çeşitli teknolojik araçlar kullandıklarını itiraf etti. Siskiyou County Sheriff’s Office, bir Facebook gönderisinde Gemini’a fazlasıyla güvenmenin büyük bir hata olduğunu belirtti.
Gönderinin bir bölümünde şu ifadeler yer alıyor: “Adamlar olay yerindeki bir şerif yardımcısına, rota hakkında bilgi almak ve gezileri için ne paketleyeceklerini öğrenmek amacıyla Google’ın Gemini YZ’sine büyük ölçüde güvendiklerini söyledi. Bu kritik bir hataydı çünkü Gemini onlara, özellikle planladıkları 8 saatlik tırmanış birkaç günlük bir çileye dönüştüğünde, gruplarının ihtiyaç duyduğundan çok daha az yiyecek ve su almalarını tavsiye etti.”
Şerif ofisi ayrıca insanları uyararak “seyahat planlamanızda asla sadece YZ’ye güvenmeyin” dedi.
Gezide başka sorunlar da yaşandı. Yürüyüşçüler telefonlarının şarjının bittiğini ve yedek bataryalarının çalışmadığını bildirdi. Çevrimdışı haritaları da olmayan yönünü şaşırmış grup, iniş sırasında kayboldu. Uygun ekipman eksikliklerini daha da gözler önüne serecek şekilde, yaralı yürüyüşçü pil tasarrufu yapmak için kafa lambası olmadan zifiri karanlıkta yolunu bulmaya çalıştı.
Google’ın Yanıtı
Bir Google temsilcisi CNET’e yaptığı telefon görüşmesinde, güven ve güvenlik ekibinin Gemini tarafından üretilen tırmanış tavsiyesini araştırdığını söyledi. Şirket, dağcıların aldığı yanıtları yeniden üretmeyi başaramadı. Temsilci, Gemini’ın hata yapabileceğini kabul ediyor ve kullanan kişilerin bir sonuçtan emin olmadıklarında her zaman Gemini’ın alıntı yaptığı kaynakları kontrol etmesi gerektiğini belirtti.
Dağcılar, Gemini’ın yiyecek ve içecek olarak tam olarak ne veya ne kadar almalarını önerdiğini söylemese de şerif departmanı bunu özellikle bir sorun olarak dile getirdi.
YZ Güvenilir Bir Kaynak Değil
YZ genellikle kritik detayları gözden kaçırıyor ve kullanıcıları gerçek dünyadaki durumlara karşı hazırlıksız bırakıyor. Bazen ortaya çıkan sonuçlar küçük çaplı oluyor. Geçen yılın sonlarında, CNET editörü Corin Cesaric-Epple bir haftalık yemek hazırlığı için ChatGPT’yi kullandı ve YZ tarafından sağlanan tariflerin aşırı derecede baharatsız olduğunu defalarca not etti ancak diğer zamanlarda sonuçlar çok daha ağır olabiliyor. Yasal başvurulara yardımcı olması için YZ kullanan avukatlar kariyerlerini tehlikeye attı; hatta bazıları hatalarla dolu çalışmaları yüzünden resmi kınama cezaları aldı.
Üretken YZ araçları, büyük bir kısmı doğrulanmamış web kaynaklarından gelen ve onlara sunulan verilerdeki kalıpları basitçe tahmin ediyor. Bunun bir sonucu olarak uzmanlar, kullanıcıları herhangi bir YZ kaynaklı tavsiyeye güvenmeden önce onu bağımsız olarak doğrulamaya çağırıyor. YZ aslında yemek yemediği, avukatlık yapmadığı veya dağlara tırmanmadığı için bu tür şeylerin nasıl yapılacağını öğrenmek adına asla en iyi kaynak olmayacak.
Kaynak: https://www.cnet.com/tech/services-and-software/ai-guided-hike-ends-in-emergency-rescue-at-11000-feet/
