MIT araştırmacıları yapay zeka risklerinin yer aldığı bir arşiv yayınladı.

MIT araştırmacıları, hem kendileri hem de YZ endüstrisi ve akademi dünyasındaki paydaşlar için bir kılavuz sağlamak amacıyla, YZ risklerinin bir tür veri tabanı olan ve YZ “risk havuzu” olarak adlandırdıkları bir sistem geliştirdiler.

MIT'nin FutureTech grubunda araştırmacı olan ve YZ risk havuzu projesini yöneten Peter Slattery TechCrunch'a verdiği demeçte, “Bu, herkesin kopyalayıp kullanabileceği ve zaman içinde güncel tutulacak, kamuya açık, kapsamlı, genişletilebilir ve kategorize edilmiş bir risk veritabanında YZ risklerini titizlikle derleme ve analiz etme girişimidir” dedi. “Bunu şimdi oluşturduk çünkü projemiz için buna ihtiyacımız vardı ve başkalarının da buna ihtiyacı olduğunu fark ettik.”

Slattery, nedensel faktörler (örneğin niyetlilik), etki alanları (örneğin ayrımcılık) ve alt etki alanlarına (örneğin dezenformasyon ve siber saldırılar) göre gruplandırılmış 700'den fazla YZ riski içeren YZ risk havuzunun, YZ güvenlik araştırmalarındaki örtüşmeleri ve kopuklukları anlama arzusundan doğduğunu söylüyor. Başka risk çerçeveleri de mevcuttur. Ancak Slattery, bunların havuzda tanımlanan risklerin yalnızca bir kısmını kapsadığını ve bu eksikliklerin YZ geliştirme, kullanım ve politika oluşturma açısından önemli sonuçları olabileceğini söylüyor.

Slattery, “İnsanlar YZ riskleri konusunda bir fikir birliği olduğunu varsayabilir, ancak bulgularımız aksini gösteriyor” diye ekledi. “Ortalama çerçevelerin, belirlediğimiz 23 risk alt alanının sadece %34'ünden bahsettiğini ve neredeyse dörtte birinin %20'den daha azını kapsadığını gördük. Hiçbir belge veya genel bakış 23 risk alt alanının tamamından bahsetmiyordu ve en kapsamlı olanı sadece %70'ini kapsıyordu. Literatür bu kadar dağınıkken, bu riskler konusunda hepimizin aynı fikirde olduğunu varsaymamalıyız.”

Depoyu oluşturmak için MIT araştırmacıları Queensland Üniversitesi, kâr amacı gütmeyen Future of Life Institute, KU Leuven ve AI startup Harmony Intelligence'daki meslektaşlarıyla birlikte çalışarak akademik veri tabanlarını taradı ve AI risk değerlendirmeleriyle ilgili binlerce belgeyi aldı.

Araştırmacılar, inceledikleri üçüncü taraf çerçevelerin belirli risklerden diğerlerine göre daha sık bahsettiğini tespit etti. Örneğin, çerçevelerin %70'inden fazlası YZ'nin gizlilik ve güvenlik etkilerini içerirken, yalnızca %44'ü yanlış bilgilendirmeyi kapsıyordu. Ayrıca, %50'den fazlası YZ'nin devam ettirebileceği ayrımcılık ve yanlış beyan biçimlerini tartışırken, yalnızca %12'si “bilgi ekosisteminin kirlenmesinden”, yani YZ tarafından üretilen spam'in artan hacminden bahsetmiştir.

Slattery, “Araştırmacılar, politika yapıcılar ve risklerle çalışan herkes için bir çıkarım, bu veri tabanının daha spesifik çalışmalar yaparken üzerine inşa edilecek bir temel sağlayabileceğidir” dedi. “Bundan önce bizim gibi insanların iki seçeneği vardı. Kapsamlı bir genel bakış geliştirmek üzere dağınık literatürü gözden geçirmek için önemli bir zaman ayırabilirler ya da ilgili riskleri gözden kaçırabilecek sınırlı sayıda mevcut çerçeveyi kullanabilirlerdi. Artık daha kapsamlı bir veri tabanına sahipler, dolayısıyla havuzumuzun zaman kazandıracağını ve gözetimi artıracağını umuyoruz.”

Thompson, “Depomuz, farklı risklerin ne kadar iyi ele alındığını değerlendireceğimiz araştırmamızın bir sonraki adımında bize yardımcı olacak” dedi. “Bunu kurumsal tepkilerdeki eksiklikleri belirlemek için kullanmayı planlıyoruz. Örneğin, herkes bir risk türüne odaklanırken benzer öneme sahip diğer riskleri göz ardı ediyorsa, bu fark etmemiz ve ele almamız gereken bir şeydir.