Birleşmiş Milletler ve Uluslararası Kızılhaç Komitesi liderleri, katil robotlar olarak adlandırılan otonom silah sistemleri üzerinde daha sıkı kontroller kurulması çağrısında bulundu. Liderler, teknolojideki ilerlemenin yasal düzenlemeleri ölümcül bir hızla geride bıraktığı uyarısını yaptı.
BM Genel Sekreteri António Guterres ve Uluslararası Kızılhaç Komitesi Başkanı Mirjana Spoljaric Egger yayımladıkları ortak açıklamada, “Şu anda ahlaki bir kırmızı çizgiyi aşmaya tehlikeli derecede yakınız: İnsanların makineler tarafından otonom olarak hedef alınması.” ifadesini kullandı.
Ancak çatışmalarda YZ kullanımı üzerine çalışan uzmanlar, bu çizginin çoktan aşıldığını söylüyor. Haber raporlarına göre, Temmuz ayında Ukrayna’nın güneydoğusunda üç sivili öldüren bir Rus dronunun nihai hedefine yalnızca YZ tarafından yönlendirildiği görüldü.
Dron, insan operatörler tarafından belirli bir benzin istasyonına gitmek üzere programlanmış olsa da nihai hedefini büyük olasılıkla silahın kendi iç sistemi seçti.
UC Berkeley bilgisayar bilimleri profesörü ve International Assn. for Safe & Ethical AI başkanı Stuart Russell, “Silahlarda insan pilotajı için bir anten yoktu. Bunun yerine önceden eğitilmiş hedef kategorilerine sahip güçlü bir yerleşik bilgisayar bulunuyordu.” dedi.
Dronun bir duvara çarpması sonucu hayatını kaybeden sığınaktaki üç sivil, otonom silahlar nedeniyle ölen ilk sivil kayıplar gibi görünse de bu vakalar ilk insan kayıpları olmayabilir.
New Scientist dergisine konuşan bir yetkiliye göre Ukrayna, iki yıl önce Rus askerlerinin ölümüne yol açan tam otonom dronlara yönelik tek seferlik deneysel bir test gerçekleştirdi.
Otomatik savaş etiği üzerine çalışan Cal Poly felsefe doçenti ve Ethics + Emerging Sciences Group kıdemli araştırmacısı Ryan Jenkins, “Bir tarih vermemiz gerekirse, bu deney bana ‘Rubicon’un geçildiği an’ (geri dönülemez nokta) gibi geliyor.” dedi. Jenkins, “Ne yazık ki çizginin aşıldığına inanıyorum.” diye ekledi.
Jenkins, askeri teknolojinin on yıllardır istikrarlı bir şekilde daha fazla otomasyona doğru ilerlediğini belirtti. En yeni YZ silah sınıfının kritik farkı, yalnızca hedefleri tespit etmek veya takip etmek gibi bireysel işlevlerde otomasyona dayanmak yerine, insanı “öldürme zincirinden” tamamen çıkarması.
BM ve Kızılhaç, gelen füzeleri veya altyapı hedeflerini hedef alan sistemlerin aksine insanları hedef alan ya da “öngörülemeyen” (yani silah konuşlandırıldıktan sonra insan operatörün sonucu tahmin edemediği) otonom silahların yasaklanması çağrısında bulundu.
Bu, kuruluşların üç yıl içinde yaptığı bu yöndeki ikinci çağrı. Ancak Russell’a göre hem savaş alanında hem de savaş dışında YZ üzerinde anlamlı ve kapsamlı bir kontrol oluşturma çabaları ilerleyemedi. Bunun başlıca nedenleri, hükümetler arasındaki güven eksikliği ile teknolojinin ve risklerinin yeterince anlaşılmaması.
Bu süre zarfında otonom silahlar giderek ucuzladı ve daha karmaşık hale geldi. Bu da onları devletler için daha cazip kılarken savaş alanından uzak tutmayı daha da zorlaştırdı.
Jenkins, “Bir silah savaşta kullanıldığında ve bir avantaj sağladığını kanıtladığında, ülkelerin bundan vazgeçmesi çok daha zor hale gelir. Katil robotları incelediğim son on yıl kadar sürede, aktivistlerin bu silahları savaş alanında yararlı oldukları kanıtlanmadan önce yasaklamak için yarıştığı izlenimine kapıldım. Şimdi ise yasaklama taraftarlarının bu yarışı temelden kaybettiğini düşünüyorum.” dedi.
Otonom silah sistemlerine daha fazla kısıtlama getirilmesine yönelik uluslararası çağrılar, müzakerecilerin mevcut Convention on Conventional Weapons anlaşmasını güçlendirmek üzere Kasım ayında Geneva‘da bir araya gelmeye hazırlandığı bir sırada yapılıyor. BM ve Kızılhaç, bu konferansın söz konusu silahların kullanımına ilişkin bağlayıcı yasal kurallara ulaşmada “mevcut en net yolu sunduğunu” belirtiyor.
Otonom silah sistemlerinin kullanımını dizginlemeye yönelik yıllardır süren çabalar somut sınırlar koymakta zorlandı. Bu yeni hamle ise Rusya-Ukrayna savaşında ve Orta Doğu, Sudan ile diğer bölgelerdeki çatışmalarda kullanılan dronlar ve diğer teknolojilerin gölgesinde gerçekleşiyor.
Kaynak: http://latimes.com/science/story/2026-08-27/u-n-warns-moral-red-line-killer-robots
