Daha önce YZ kullandıysanız, hatalardan muaf olmadığını ve sonuçları kontrol etmediğinizde halüsinasyonların kolayca ortaya çıkabildiğini bilirsiniz. Büyük bir dil modelinin pizzaya yapıştırıcı sürmenizi önermesi sadece gülüp geçilecek bir durum olsa da, YZ’nin tüm kullanım alanları bu kadar düşük riskli değil.
CNN‘in haberine göre ABD ordusu yakın zamanda, bir YZ modelinin ürettiği yanlış bilgiler yüzünden İran’a nükleer program malzemesi taşıdığını sandığı bir Çin gemisine askeri harekat düzenlemeyi planladı. Bir kaynağa göre bu rapor “neredeyse bir savaş başlatıyordu”.
Haber kuruluşuna konuşan dört kaynağa göre ABD ordusu geminin önünü kesmeyi planlıyordu ancak planlanan operasyondan kısa bir süre önce hatayı fark etti. Diğer iki kaynak askeri yetkililerin gemiye çıkmaya hazırlandığını iddia ederken, bir başka kaynak da ordunun “havada” olduğunu söyledi.
Bahsi geçen yanıltıcı raporun, bir özel harekat komutanlığı analisti tarafından YZ kullanılarak hazırlandığı bildirildi.
Bu haber, Trump yönetiminin YZ’yi ordunun daha fazla bölümüne entegre etme hamleleri yaptığı bir dönemde geldi. Ocak ayında ABD Savaş Bakanlığı, “Artificial Intelligence Acceleration Strategy” belgesini yayımladı. Bu strateji, deneylerin önünü açarak ve “bürokratik engelleri” ortadan kaldırarak ordunun “tüm alanlarda ‘önceliği YZ olan’ bir savaş gücü haline gelmesi” planlarının ana hatlarını çiziyordu.
Ordu içindeki pek çok analist, YZ kullanımının hedefleme gibi senaryolar için genişletilmesinin taşıdığı tehlikelerden endişe duyuyor. Bir kaynak CNN’e verdiği demeçte, “döngüde bir insan bulunmasının sivil kayıpları veya dost ateşini nasıl önleyeceğine dair gerçek bir rehberlik olmadığını” söyledi. Bir başka kaynak ise CNN’e şunları aktardı: “YZ, kötü bir fikre daha hızlı ulaşmanızı sağlıyor.”
YZ’yi savaşa tam olarak entegre etmenin akıllıca olup olmadığı daha önce bazı araştırmalar tarafından sorgulandı. Şubat 2024’te Georgia Teknoloji Enstitüsü (Georgia Institute of Technology), Stanford Üniversitesi, Northeastern Üniversitesi ve Hoover Savaş Oyunları ve Kriz Simülasyonu Girişimi (Hoover Wargaming and Crisis Simulation Initiative) tarafından yürütülen bir çalışmada, en yaygın beş büyük dil modeliyle simüle edilmiş savaş oyunları oynandı.
Araştırmacılar genel olarak büyük dil modellerinin insanlardan daha agresif davrandığını ve gördükleri kadarıyla daha büyük bir “silahlanma yarışı dinamiği geliştirerek daha büyük çatışmalara ve nadir durumlarda nükleer silahların konuşlandırılmasına bile yol açtığını” tespit etti.
Kaynak: https://www.pcmag.com/news/oops-misleading-ai-generated-report-almost-started-a-war-with-china
