Perşembe günü yayımlanan tehdit istihbaratı raporuna göre suçlular, devlet destekli gruplar, casus yazılım satıcıları, bilim insanları ve propagandacılar Anthropic’in güçlü YZ modellerini kullandı. Bu aktörlerin amacı füzeler ve bombalar tasarlamak, ölümcül patojenler yaratmak ve muhalifleri gözetlemekti.
Anthropic 154 sayfalık raporunda, “Burada paylaştığımız vakalar tipik kötüye kullanım değil, daha çok bugüne kadar tespit ettiğimiz en dikkat çekici ve yeni tehdit faaliyetlerinin örnekleri. Hizmetlerimizin kötü niyetli kullanımını ifşa etme sorumluluğumuz olduğuna inandığımız için bu çalışmayı yayımlıyoruz.” diye yazdı.
Şirket, bilim insanlarının biyolojik araştırmalarda YZ modellerini kullandığı beş vaka çalışmasını özellikle detaylandırdı. Anthropic, bu örneklerde araştırmacıların “desteklenmeyen bölgelerden” gelen kullanıcıları engellemeyi amaçlayan güvenlik önlemlerini aştığını belirtti. Ayrıca bu kişilerin, çalışmalarının amacını gizlemeye uğraştığını da ekledi.
Anthropic, “Biyolojik kötüye kullanım, gelişmiş YZ modellerinin taşıdığı en ciddi risklerden biri. Doğru güvenlik önlemleri alınmazsa, bu yetenekler felaketle sonuçlanabilir.” dedi.
Anthropic bu hesapları yasakladığını duyurdu. Şirket, araştırmacıların niyetinden emin olmadığını söyleyerek kötüye kullanımın gerçekleştiği araştırma kurumlarının veya ülkelerin isimlerini açıklamadı.
Anthropic, tehdit aktörlerinin YZ modellerini kullandığı onlarca başka örnek de sundu. Bunlar arasında Rus casusluğu ve “vur-kaç” tarzı siber saldırılar gibi siber operasyonlar vardı. Suriye’deki Uygurları ve iç muhalifleri hedef alan Çin merkezli programlar gibi gözetim operasyonları da listeye girdi. Ayrıca Rusya, Malezya, İran ve Bangladeş’teki propaganda kampanyaları ile Claude YZ modelinin Yemen, Çin ve Rusya’da ateşli silahlar, füzeler, silahlı dronlar, bombalar ve diğer mühimmatlar dâhil olmak üzere konvansiyonel silahlar için yazılım geliştirmek amacıyla kullanılması bu örnekler arasında yer aldı.
Biyolojik araştırma örneklerinden birinde Anthropic, bir bilim insanının chikungunya virüsünü incelemek üzere devlet destekli bir hibe başvurusu hazırlarken Claude kullandığını tespit etti. Bu virüs, dang humması ve sıtmaya benzeyen sivrisinek kaynaklı bir hastalık. Aylarca süren şiddetli ağrı, ateş ve diğer zayıflatıcı semptomlara neden olabiliyor.
Bu tür araştırmalar aşı geliştirmek için kullanılabileceği gibi biyolojik silahlar yaratmak için de kullanılabiliyor. Anthropic, New York Times’a yaptığı açıklamada bu vakanın özellikle endişe verici olduğunu söyledi çünkü çalışmanın bir askeri araştırma enstitüsünde yapılacağını görebiliyorlardı.
Rapor, bir Anthropic çalışanı olan Jacob Coxon’ın istifasıyla medyada fırtınalar koparmasından sadece iki gün sonra geldi. Coxon, şirketin teknolojisini yaratırken sorumlu davranmadığı gerekçesiyle işten ayrıldığını belirtti. Anthropic ve rakibi OpenAI’ın, 2030 yılına kadar insanlığın yokmasına yol açacak olan “kendi kendini geliştiren süper zekaya doğru hızla yarıştığını” söyledi. Mevcut Anthropic çalışanları da açıkça ona katıldıklarını belirten paylaşımlar yaptı.
Birçok YZ uzmanı, Anthropic’in istihbarat raporunda detaylandırılanlar gibi gerçek dünya tehditlerinin, önümüzdeki üç yıl içinde her şeye gücü yeten bir zekanın getireceği kıyametten çok daha endişe verici olduğunu söylüyor.
AI Now Institute’ün baş YZ bilim insanı Heidy Khlaaf, “YZ ivmeciliği ve YZ felaketçiliği aynı madalyonun iki yüzüdür: Her ikisi de bir AGI süper varlığının ortaya çıkacağı fikrini dayatıyor.” ifadelerini kullandı. Khlaaf, siber güvenlik açıkları ve savaş silahları için kullanılabilecek teknolojiler yaratan YZ laboratuvarlarının son derece daha ölümcül olabileceğini belirtti.
Anthropic raporunda, YZ modellerinin gerçek dünyadaki potansiyel kötüye kullanımının genellikle kamuoyunun gözü önünde olmadığını vurguladı. Bunun yerine bu tür durumlar kurum içinde veya akademisyenler, hükümetler ve uluslararası örgütler tarafından araştırılıyor.
Şirket, tüm YZ endüstrisinin bu zararları ele almak ve savunmalar oluşturmak için hükümetlerle birlikte çalışması gerektiğini belirtti.
Anthropic, “Modeller giderek daha yetenekli hale geldikçe, YZ geliştiricileri ve toplumun savunucuları onları daha güvenli hale getirmek için harekete geçmedikçe riskleri de artacaktır.” diye yazdı.
Kaynak: https://www.theguardian.com/technology/2026/sep/10/anthropic-report-details-ai-misuse
