Anthropic, yeni ekibin başına eski OpenAI güvenlik liderini getirdi.

X'te yayınlanan bir yazıda Leike, Anthropic'teki ekibinin yapay zeka güvenliği ve emniyetinin çeşitli yönlerine, özellikle de “ölçeklenebilir gözetim”, “zayıftan güçlüye genelleme” ve otomatik hizalama araştırmalarına odaklanacağını söyledi.

‍

Konuya aşina bir kaynak Leike'nin doğrudan Anthropic'in baş bilim sorumlusu Jared Kaplan'a rapor vereceğini ve şu anda ölçeklenebilir gözetim - büyük ölçekli yapay zekanın davranışını öngörülebilir ve arzu edilen şekillerde kontrol etme teknikleri - üzerinde çalışan Anthropic araştırmacılarının Leike'nin ekibi büyüdükçe Leike'ye rapor vermek üzere hareket edeceğini söyledi.

‍

Leike'nin ekibi birçok açıdan OpenAI'ın kısa süre önce feshedilen Superalignment ekibine benziyor. Leike'nin eş başkanlığını yaptığı Superalignment ekibi, önümüzdeki dört yıl içinde süper zeki yapay zekayı kontrol etmenin temel teknik zorluklarını çözme gibi iddialı bir hedefe sahipti, ancak OpenAI'ın liderliği tarafından sık sık engellendiğini gördü.

‍

Anthropic sık sık kendisini OpenAI'den daha güvenlik odaklı olarak konumlandırmaya çalıştı.

‍

Anthropic'in CEO'su Dario Amodei, bir zamanlar OpenAI'de araştırma başkan yardımcısıydı ve şirketin yönü, yani OpenAI'ın artan ticari odağı konusundaki bir anlaşmazlıktan sonra OpenAI ile ayrıldığı bildirildi. Amodei, Anthropic'i kurmak için OpenAI'ın eski politika lideri Jack Clark da dahil olmak üzere bir dizi eski OpenAI çalışanını da beraberinde getirdi.

‍