Yapay zekanın özellikle siber güvenlikte yaratabileceği olumsuz etkiler ve yeni sorunlar hakkında birçok karamsar senaryo konuşuluyor. Anthropic, dünyanın en kritik yazılımlarını YZ destekli saldırılara karşı korumak için Project Glasswing adlı yeni bir girişim duyurdu. Bu girişimde Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA ve Palo Alto Networks ortak olarak yer alıyor.
Katılımcılar, kendi güvenlik projelerini güçlendirmek için Anthropic’in henüz yayınlanmamış genel amaçlı modeli Claude Mythos Preview’u kullanacak. Anthropic, bu modelin her büyük işletim sistemi ve web tarayıcısı dahil olmak üzere binlerce kullanılabilir güvenlik açığı tespit ettiğini iddia ediyor. Şirket, ekonomi ve güvenlik üzerinde ağır sonuçlar doğurabilecek kötü niyetli YZ kullanımını engellemek amacıyla araçlarını savunma odaklı kullanmaya başlamak istediğini belirtti.
Anthropic, sektördeki etik kaygıları dile getiren dikkat çekici YZ şirketlerinden biri haline geldi. Bu yılın başlarında şirket, Pentagon’un kullanımı için hizmetlerindeki güvenlik sınırlarını kaldırmayı reddetmişti. Bunun üzerine Savunma Bakanlığı, misilleme olarak Anthropic’e “tedarik zinciri riski” tanımıyla yaptırım uygulamıştı.
Project Glasswing’in başlatılması, YZ çağında siber güvenliği geliştirmek için yararlı bir başlangıç olabilir ancak bazı zararlar çoktan oluştu. Bildirilene göre, şubat ayında bir bilgisayar korsanı Meksika’daki birden fazla devlet kurumuna karşı Claude’u kullandı.
Kaynak: https://www.engadget.com/ai/anthropic-launches-project-glasswing-an-effort-to-prevent-ai-cyberattacks-with-ai-214939773.html
