Yapay Zekanın Riskleri Artıyor: Devlet Tarafından Denetlenmeli

Bilişsel bilimci Gary Marcus, yapay zekanın kontrolsüz gelişiminin risklerini vurgulayarak, yapay zeka sistemlerinin Gıda ve İlaç Dairesi (FDA) veya Federal Havacılık İdaresi (FAA) gibi bir yapı tarafından düzenlenmesi gerektiğini savundu. Seattle’da bilim kurgu yazarı Ted Chiang ile yaptığı söyleşide “Eğer biri büyük riskler taşıyan yeni bir yapay zeka türü sunuyorsa, bunun belirli bir onay sürecinden geçmesi gerekir. Riskler ve faydalar değerlendirilerek, toplum için gerçekten olumlu olup olmadığı belirlenmelidir.” dedi.

Marcus, yapay zekanın işe alım süreçleri gibi kritik alanlarda kullanımının dış denetim mekanizmalarına tabi tutulması gerektiğini belirtti ve ekledi: “Büyük dil modellerinin işe alım kararlarında kullanıldığını ve önyargılı olduklarını biliyoruz. Ancak bu önyargıyı ölçmek ve denetlemek için bir sistem yok.”Yapay zeka alanında bağımsız bilim insanlarının sürece dahil edilmemesini eleştiren Marcus, büyük teknoloji şirketlerinin kendilerini denetlediği “düzenleyici yakalama” (regulatory capture) modeline dönüşen sistemin risklerine dikkat çekti.

Özellikle, Meta CEO’su Mark Zuckerberg ve şirketin baş yapay zeka sorumlusu Yann LeCun’un açık kaynak yapay zeka konusunda bağımsız uzmanlara danışmadan karar aldığını belirten Marcus, “Bu kararı onlar değil, bağımsız uzmanlar almalıydı. Ancak tüm toplum adına onlar karar verdi ve şimdi ürettikleri yapay zeka sistemleri Çin gibi ülkeler tarafından aktif olarak kullanılıyor.” dedi. ABD için bir "Federal Yapay Zeka Yönetimi" veya küresel çapta bir "Uluslararası Sivil Yapay Zeka Örgütü" kurulması gerektiğini savundu.

Marcus, kitabında üretken yapay zekaya karşı bir tüketici boykotu çağrısı yaparken, Chiang, “Microsoft artık Not Defteri ve Paint gibi uygulamalara bile yapay zeka ekliyor. Yapay zekanın olmadığı bir ürün bulmak neredeyse imkansız hale geldi.” diyerek bunun uygulanabilirliğini sorguladı. Marcus, bunun zorlu bir süreç olduğunu kabul ederek “Adil ticaret kahvesi (fair-trade coffee) gibi etik yapay zeka sistemleri desteklenmeli ve tüketiciler lisanslı içeriklerle eğitilmiş yapay zeka modellerini tercih etmeye yönlendirilmeli.” dedi.

Marcus, hükümetlerin yalnızca halkın güçlü bir tepki göstermesi halinde yapay zeka düzenlemeleri konusunda adım atacağını vurgulayarak, “Yapay zeka konusunda, iklim değişikliğinde gördüğümüz duruma benzer bir şeyle karşı karşıyayız. Hükümet ancak halk gerçekten bu konuda öfkelendiğinde harekete geçiyor.” dedi. Ayrıca, büyük dil modellerinin gelişim hızının yavaşladığını, çünkü internetin büyük bir kısmının zaten bu sistemler tarafından işlendiğini ve yeni veriler olmadan ilerlemenin zorlaşacağını belirtti.

Marcus, OpenAI’ın yeterli gelir elde edememesi durumunda Facebook’un yaptığı gibi veri satmaya yönelerek yapay zekayı bir gözetleme aracı haline getirebileceğini de öne sürdü. Yapay zeka konusunda düzenleyici bir sistem oluşturulmazsa, bu teknolojinin hem güvenlik hem de etik açıdan büyük riskler taşıdığı konusunda uyardı.

‍

‍

Kaynak: https://www.geekwire.com/2024/tame-ai-gary-marcus-regulation/