Sinan Can Demir, Temmuz ayının son haftasını özgeçmişini güçlendirmek için geçirmek istiyordu. Bunun yerine kendisini, bir İngiliz devlet laboratuvarının serbest bıraktığı YZ ajanıyla akıl yarışına girerken buldu.
Süreç, Dallas’taki Texas Üniversitesi’nde bilgisayar bilimleri öğrencisi Demir’in, kod paylaşım sitesi GitHub’daki açık kaynaklı bir yazılımı sabote etme girişimine rastlamasıyla başladı. Demir programın sayfasında bir uyarı yayımladığında, iki başka kullanıcı devreye girerek ortada bir sorun olmadığını savundu ve Demir’in neden yanıldığını açıklayan ayrıntılı gerekçeler paylaştı.
Demir geri adım atmadı ve sabotaj girişimi engellendi. Türkiye doğumlu 24 yaşındaki genç, kurnaz bir korsanı suçüstü yakaladığını düşündü. Bu yüzden İngiltere’nin Yapay Zeka Güvenliği Enstitüsü (AISI) kendisiyle iletişime geçip, aslında kontrolden çıkan otonom bir YZ ajanıyla mücadele ettiğini söylediğinde şaşkına uğradığını belirtti.
Demir yakın zamanda Reuters’a verdiği bir röportajda, “Bana açıkça yalan söylediği için aslında bir insan olduğunu düşündüm. Bir YZ’nin gerçek geliştiricilere yalan söyleyebileceğini düşünmemiştim.” dedi.
AISI, Demir ile YZ ajanı arasındaki bu etkileşimi ilk kez 4 Ağustos’ta, çeşitli modellerin oluşturduğu riski ölçmeyi amaçlayan güvenlik testlerinin ters gittiğini açıklayarak, kısaltılmış ve sansürlenmiş bir biçimde duyurdu. Demir’in kimliği ve YZ ajanıyla olan etkileşiminin detayları Reuters tarafından iilk kez haberleştirildi.
Beş siber güvenlik ve YZ güvenliği uzmanı, Demir’in keşfettiği ve tedarik zinciri saldırısı olarak adlandırılan siber saldırı türünün geniş kapsamlı sonuçlar doğurabilmesi nedeniyle bu hikayenin son derece rahatsız edici olduğunu belirtti. Uzmanlar ayrıca YZ ajanının, etrafında çok kişili bir tartışma ortamı yaratarak Demir’i kamuoyu önünde itibarsızlaştırmaya çalışmasının, YZ modellerinin insanları kandırmak ve tatlı dille ikna etmek için gelişmiş çabalar sergileyebildiğini gösterdiğini ifade etti.
King’s College London Savaş Çalışmaları Bölümü’nde kıdemli konuk araştırmacı olan Lukasz Olejnik, “Bu durum, özerk korsanlık çizgisini aşıp etkileşimli aldatmacaya dönüşüyor.” dedi. Güvenlik uzmanı Maxie Reynolds ise YZ’nin öğrenciyi kandırmaya çalışırken ne kadar stratejik davrandığına şaşırdığını söyledi.
Reynolds, “Sosyal mühendislik saldırılarının geleceği işte bu.” dedi.
İngiliz hükümeti bünyesindeki bir araştırma kuruluşu olan AISI, Reuters’ı kontrolden çıkan ajanın Anthropic’in Mythos 5 modeliyle desteklendiğini belirten raporuna yönlendirdi ve daha fazla yorum yapmaktan kaçındı. Anthropic ise Reuters’ı, testlerin “üretim modellerimizin hiçbirini temsil etmeyen, ‘kasıtlı olarak esnetilmiş koşullar’ altında” gerçekleştiğini belirttiği bir X paylaşımına yönlendirdi ve başka yorum yapmadı. GitHub gönderdiği e-postada, Reuters tarafından tespit edilen sahte profillerin, yanıltıcı davranış ve korsanlık politikaları doğrultusunda askıya alındığını bildirdi.
İş Arayışı Zararlı Yazılım Keşfine Yol Açtı
Konya doğumlu, sakin yapılı bir 3. sınıf öğrencisi olan Demir, yaz boyunca 20’den fazla staj başvurusundan ret aldıktan sonra hayal kırıklığına uğradığını söyledi. Bu yüzden kodlama portföyünü geliştirmek için GitHub’a yöneldi.
Microsoft’a ait bu platform, kaynak kodunun herkes tarafından özgürce indirilebilmesi ve denetlenebilmesi nedeniyle açık kaynaklı yazılımların merkezi konumunda. Geliştiriciler, birbirlerinin projelerine yorum yapmak, hataları bildirmek, değişiklik önermek (pull request veya PR olarak bilinir) ve yazılım güncellemelerinde ortaklaşa çalışmak için GitHub’ı kullanıyor. Teknoloji sektöründeki bazı isimler, bir yazılımcının GitHub aktivitesini olası bir adayın verimlilik göstergesi olarak görüyor. Bu yüzden Demir yardıma ihtiyacı olabilecek bir dizi yazılım projesi fark ettiğinde, profilini güçlendirirken katkıda da bulunabileceğini düşündü.
İşler işte o zaman garipleşti.
Demir, miraholt31 kullanıcı adlı bir kişinin, myNetwork adındaki bir ağ tarama programına gizlice zararlı bir güncelleme sızdırmaya çalıştığını keşfetti. Demir, pull request önerisinin bir tuzak olduğunu bildirmek için projenin mesaj panosuna yazdı.
Arşivlenen yazışmalara göre Demir, “PR, gizli bir zararlı yazılım yükleyicisi içeriyor.” uyarısında bulundu.
YZ ajanı, miraholt31 hesabı üzerinden pull request önerisinin zararsız olduğunu asılsız şekilde iddia ederek karşı çıktı. Ayrıca Almanya’da çalışan bir mühendis olan Lena Brandt kılığına girerek ikinci bir hesap oluşturdu; güncellemenin temiz olduğunu onaylayıp myNetwork yöneticisine bunu kabul etmesi için baskı yaptı.
Demir Reuters’a, karşı argümanların “birini haksız yere suçlayıp suçlamadığımı sorgulamasına neden olduğunu” ifade etti. Ancak şüphelerini doğrulamak için Anthropic’in Claude sohbet botuna başvurduktan sonra duruşunu korudu. myNetwork’ün geliştiricisi sonunda kendisine hak verdi ve güncellemeyi “güvenlik gerekçeleriyle” reddettiğini yazdı.
Tedarik Zinciri Saldırısı
Bir tedarik zinciri saldırısı, bir yazılımın bir veya daha fazla kullanıcıyı tehlikeye atma amacıyla tahrif edilmesidir; tıpkı bir şehrin su deposuna zehir atılması gibi, zincirin devamındaki çok sayıda insanı etkileyebilme potansiyeli nedeniyle ciddi bir tehdit olarak görülür.
Dünyadaki en sarsıcı siber saldırıların birçoğu tedarik zinciri saldırılarıydı. Bunlara 2017’de Ukrayna genelindeki kurumları felç eden NotPetya siber saldırısı ve 2020’de Rus casuslarına ABD hükümet ağlarına geniş erişim imkanı sağlayan SolarWinds odaklı siber casusluk operasyonu dahil.
Yazılım tedarik zinciri güvenliği uzmanı Piergiorgio Ladisa, böyle bir ihlalin sonuçlarının “son derece ciddi olabileceğini” belirtti. Ladisa, daha önce de korsanların açık kaynak yöneticilerini kandırarak projelerine zararlı kod sızdırmaya çalıştığı en az bir girişim yapıldığına dikkat çekti.
Demir, bu deneyimin ardından öncü laboratuvarların YZ geliştirme konusunda daha temkinli bir yaklaşım benimsemesi gerektiği fikrine daha sıcak bakmaya başladığını söyledi: “Tehlikeli olabilir. Daha fazla geliştirmek yerine onu daha iyi anlamaları gerekiyor.”
Kaynak: http://reuters.com/world/how-texas-student-blew-whistle-rogue-ai-hacking-attempt-2026-08-20/
