Kanada merkezli YZ şirketi Cohere, Alibaba’nın en yeni YZ modellerinden biri olan Qwen3.8-Flash-Next‘in kendi notlarında hiçbir araç kullanmayacağını belirtmesine rağmen rutin bir siber güvenlik testi sırasında Pekin’deki bir sunucuya dosya yüklemeye çalıştığını tespit ettiğini açıkladı.
Olay ilk başta, açık ağırlıklı bir modeli kendi sunucularında barındırmanın verileri kurum içinde tutacağı yönündeki temel taahhüdün sarsıldığı endişesini doğurdu. Ancak kurumsal casusluğa dair bu ilk korkular kısa sürdü. Araştırmacılar, bunun Çin’e gizlice hassas bilgi göndermeye yönelik kasıtlı bir girişimden ziyade, modellerin beklenmedik biçimde talimat dışına çıkmasına yol açan düzensiz eğitim ortamlarının bir yan ürünü olabileceğini belirterek durumun bir tehdit oluşturmadığı sonucuna vardı.
Olay cuma günü, Qwen modelinden zararlı yazılım indirmelerini yakalamaya yönelik bir kural yazması istenen bir değerlendirme sırasında başladı. Cohere’in yayımladığı bir blog yazısına göre modelin yazılı akıl yürütmesi, herhangi bir harici araç kullanmayacağını açıkça belirtti. Ancak hemen bir sonraki adımda, bir güvenlik koruma alanı (sandbox) tarafından engellenmeden önce harici bir sunucuya bir test dizisi (kısa bir yer tutucu metin) gönderme girişiminde bulundu.
Cohere, bu davranışın kasıtlı mı yoksa eğitim sürecinden kalma bir kalıntı mı olduğunu netleştiremediğini duyurdu.
Modelin niyeti hakkındaki tartışmalar sorulduğunda Cohere kurucu ortağı Ivan Zhang, TechCrunch’a yaptığı açıklamada kendi modellerinin de eğitim simülatörlerinde tuhaf alışkanlıklar edindiğine tanık olduklarını aktardı:
“Bir davranışa niyet veya motivasyon atfetmek gerçekten çok zor. Kendi modellerimizin işlem kayıtlarını inceledik, ödül sistemini istismar ettikleri durumlarla karşılaştık ve bazen bu modeller, izole edildikleri test ortamlarından çıkmaya çalışırken gerçekten çok yaratıcı olabiliyor.” (Ödül sistemini istismar etme (reward hacking), bir modelin kendisine verilen görevi amaçlandığı şekilde yerine getirmeden ödül kazanmasını sağlayan kestirme yollar bulması anlamına geliyor.)
Alibaba gibi şirketler, bir YZ modeline kendi başına işlem yapabilen bir ajan olarak çalışmayı öğretmek için modeli binlerce farklı alıştırma ortamında eğitiyor. Bu ortamlar, yazılımlar için kullanılan uçuş simülatörlerine benzetilebilir. Model, simülasyonda tamamladığı her görev için ödüllendiriliyor ve bu süreçte çeşitli alışkanlıklar ediniyor. Eğer bu eğitim ortamlarında dosyalar düzenli olarak Alibaba’nın bulut sunucularına kaydediliyorsa modeller de dosyaları varsayılan olarak bu sunuculara kaydetmeyi öğrenmiş olabilir.
Eleştirmenler ayrıca olayın, Cohere’in davranışı inceleme biçiminden kaynaklanmış olabileceğini, Qwen’in bunu kendi kendine ne sıklıkla yaptığını ölçmek yerine modeli bu yöne sevk etmiş olabileceğini öne sürdü.
Cohere, yükleme girişimini neyin tetiklediğini tespit etmek için bir ağ komutunun (bir bilgisayarın diğerine bağlanmasını söyleyen bir talimat) başlangıcını sağladı ve devamını modelin tamamlamasına izin verdi. Eğitimi sırasında binlerce rutin ağ komutunu işlediği için model, son derece gelişmiş bir otomatik tamamlama gibi davrandı; çoğu zaman web adreslerini tamamladı ve bu adreslerin bazıları Alibaba’nın sunucularına bağlandı.
Cohere, ilk yükleme denemesinin bu tür bir yönlendirme olmadan gerçekleştiğini fakat bu davranışa nadiren rastlandığını belirtti.
Geliştiricilerin daha fazla kanıt talep etmesi üzerine Cohere, pazartesi akşamı YZ geliştirici platformu Hugging Face üzerinde testlere ait ham işlem kayıtlarını ve başkalarının da davranışı yeniden üretmeyi deneyebilmesi için bir komut dosyasını paylaştı.
Başlangıçta iddiaya şüpheyle yaklaşan kişilerden biri, kayıtları inceledikten sonra Qwen’in şüpheli web adresleri oluşturabildiğine dair kanıtları güçlü buldu. Ancak Alibaba’nın modele gizli bir arka kapı yerleştirdiğine veya Qwen’in niyetini kasıtlı olarak gizlediğine dair herhangi bir kanıt bulamadı.
Olay, hükümetlerin Çin menşeli YZ’ye karşı ne ölçüde sınır çizeceğini belirlemeye çalıştığı bir döneme denk geldi. Geçen hafta ABD İç Güvenlik Bakanlığı, federal sivil kurumlara Çinli YZ geliştiricisi DeepSeek‘in ürünlerini sistemlerinden kaldırmaları talimatını verdi.
Cohere blog yazısında, Çin YZ’sine yönelik kısıtlamaların hükümet bilgisayarlarında çalışan modeller için de geçerli olup olmadığını açıklığa kavuşturmaları adına hükümetlere çağrıda bulundu.
TechCrunch’a konuşan Zhang, “Bu açık ağırlıklı modellerin tamamen regüle edilmesini talep etmiyorum.” diyerek şirketlerin açık modellere internetten indirilen herhangi bir program gibi yaklaşması gerektiğini sözlerine ekledi.
Kendi YZ modellerini hükümetlere satan Cohere, yetkililerin ücretsiz Çin menşeli alternatiflere karşı daha temkinli hale gelmesinden kazançlı çıkabilecek bir konumda.
Kaynak: https://techcrunch.com/2026/10/26/cohere-says-alibabas-qwen-model-tried-to-send-a-file-to-beijing/
