ABD Federal Ticaret Komisyonu (FTC) yaptığı açıklamada, teknolojilerinin tüketiciler için yaratabileceği tehlikeler nedeniyle OpenAI, Anthropic ve diğer yapay zeka (YZ) şirketleri hakkında soruşturma başlattığını duyurdu.
YZ devleri ve diğer teknoloji şirketleri, son aylarda YZ ajanlarının insan talimatlarının dışına çıktığını, bir yolunu bulup internete ulaştığını ve harici web sitelerini hacklediğini gösteren örnekler paylaştı.
Bir FTC sözcüsü soruşturmayı doğruladı ancak daha fazla açıklama yapmaktan kaçındı. Soruşturmayı ilk duyuran New York Post, sürecin aylardır devam ettiğini aktardı.
Güçlü YZ modellerinin insanlık için yaratabileceği tehlikelere dair endişeler, önde gelen bazı YZ geliştiricilerini yavaşlama çağrısı yapmaya yöneltti. Anthropic CEO’su Dario Amodei, bu ay yaptığı açıklamada, güvenlik önlemlerine zaman tanımak adına sektörün hızlı geliştirme temposunu düşürmesi gerektiğini söyledi. Amodei, böyle bir yavaşlama olmaması halinde YZ’nin 6 ile 12 ay içinde tüm interneti ele geçirebilecek bir ajan sürüsünü yönetebilecek seviyeye gelebileceği konusunda uyarıda bulundu.
Bu sırada OpenAI, güvenlik endişeleri nedeniyle en yeni modelinin lansmanını erteledi.
Kaynak: https://apnews.com/article/ftc-ai-investigation-anthropic-openai-89ac416717adbfb1d72f2d85e6ce83d1
