Kurucuları arasında Anthropic'in kurucularından Jack Clark'ın da bulunduğu Cosmos Enstitüsü, bir yapay zeka laboratuvarı başlatıyor.

Cosmos'un başkanı McCord bir blog yazısında, Enstitünün Oxford Üniversitesi'nde İnsan Merkezli YZ Laboratuvarı ya da kısaca “HAI Laboratuvarı” adında bir YZ laboratuvarı kuracağını söyledi. Enstitü'nün kurucu üyelerinden Oxfordlu filozof Philipp Koralus tarafından yönetilecek olan laboratuvarın amacı “insan gelişiminin felsefi ilkelerini açık kaynaklı yazılımlara ve yapay zeka sistemlerine dönüştürmek olacak" dedi.

“İnsan gelişiminin felsefi ilkelerini tercüme etmek” tam olarak ne anlama geliyor? Belirsiz. Ancak işin özü, insan onuruna saygı duyan ve aynı zamanda zararlı bozulmaları (örneğin, iş kaybına yol açan otomasyon) teşvik etmekten kaçınan YZ teknolojisinin yaratılmasını teşvik etmektir. Elbette yüksek ve belirsiz bir çıta - ama HAI Lab bunun için çabalayacak.

Enstitü ayrıca Cosmos Fellowship adında bir burs programı başlatıyor ve dört kişilik bir kohort oluşturuyor. McCord, HAI Laboratuvarı'nda veya diğer ortak kurumlarda “bir dönem ile bir yıl” arasında çalışacak bursiyerlerin Cosmos danışmanlarıyla işbirliği yapacaklarını ve “yapay zeka uzmanlığı ile derin felsefi kavrayışın kesişimini keşfetmek” için bağımsız projeler yürüteceklerini söyledi.

Enstitünün planlarında bir yatırım bileşeni var ve bu bir girişim kuruluşu şeklinde başlatılıyor: Cosmos Ventures. McCord, eski DeepMind ürün lideri Jason Zhao, eski Stripe kurumsal strateji başkanı Alex Komoroske, Darren Zhu ve Zoe Weinberg tarafından yönetilen Cosmos Ventures'ın “teknoloji felsefesiyle ilgili temel soruları araştıran kışkırtıcı yeni prototipleri, denemeleri ve yaratıcı projeleri” destekleyeceğini söyledi.

McCord, Cosmos Ventures'ı Enstitü üyesi Tyler Cowen'ın Emergent Ventures'ını örnek alarak “düşük masraflı” olarak nitelendiriyor

McCord, ilk grubun halihazırda finanse edildiğini söyledi.

Cosmos Enstitüsü, daha etik ve hümanist bir yapay zeka vizyonu geliştirmeye çalışan ilk kurum değil. Gelişmiş yapay zekanın faydalarını tüm insanlığa sunma misyonuyla kurulan OpenAI, tüm güvenlik ekiplerini dağıttı. Clark'ın Anthropic'i bir zamanlar kendisini daha güvenli ve etik bir satıcı olarak konumlandırmıştı, ancak son aylarda YZ düzenlemelerini geri itti ve izin almadan agresif bir şekilde veri topladı.

Belki de Cosmos Enstitüsü, McCord'un “hızlanmacılık” olarak adlandırdığı, geleceğin önceden belirlenmediği ve dolayısıyla insanlığın geleceğin getireceklerinden sorumlu olduğu fikrini benimseyerek daha başarılı olacaktır.

McCord, “Kayıtsızlık yerine sorgulamayı teşvik eden ve özellikle eğitim, tıp, kamusal alan ve diğer hayati alanlarda pasif bağımlılık yerine aktif katılımı destekleyen bir YZ inşa etmeliyiz” diye yazıyor. “Gücü merkezden uzaklaştıran ve aşağıdan yukarıya çözümlere olanak tanıyan, bireylerin ve toplulukların daha zengin, daha çeşitli bir toplumu birlikte yaratmalarına olanak tanıyan YZ'yi savunuyoruz.”