OpenAI, yönetim kuruluna bir Carnegie Mellon profesörünü ekledi.

OpenAI, yönetim kuruluna yeni bir atama yapıldığını duyurdu: Zico Kolter.

Carnegie Mellon'da makine öğrenimi bölümünde profesör ve direktör olan Kolter, araştırmalarını ağırlıklı olarak yapay zeka güvenliği üzerine yoğunlaştırıyor. OpenAI, resmi blogunda yayınladığı bir yazıda, bu durumun kendisini "[OpenAI'nin] yönetişimi için paha biçilmez bir teknik direktör" haline getirdiğini belirtiyor.

YZ güvenliği şirkette büyük bir sorun olmuştur. Kolter'in ataması, kurucu ortak Ilya Sutskever de dahil olmak üzere, güvenlik konusuna odaklanan birkaç önde gelen OpenAI yöneticisi ve çalışanının şirketten ayrılmasından birkaç ay sonra gerçekleşti. Bu istifaların birçoğu, Sutskever'in "süper zeki" yapay zeka sistemlerini yönetmenin yollarına odaklanan, ancak bir kaynağın başlangıçta vaat edilen bilgi işlem kaynaklarına erişiminin reddedildiğini söylediği eski "Superalignment" ekibinden geldi.

Kolter ayrıca OpenAI yönetim kurulunun Güvenlik ve Emniyet Komitesine, direktörler Bret Taylor, Adam D'Angelo, Paul Nakasone, Nicole Seligman, CEO Sam Altman ve OpenAI teknik uzmanlarıyla birlikte katılacak. Komite, tüm OpenAI projeleri için güvenlik ve emniyet kararları konusunda tavsiyelerde bulunmaktan sorumlu - ancak Mayıs ayındaki bir yazımızda belirttiğimiz gibi, çoğunlukla içeriden kişilerden oluşuyor ve bu da uzmanlar arasında etkinliği konusunda soru işaretlerine neden oluyor.

OpenAI yönetim kurulu başkanı Taylor yaptığı açıklamada şunları söyledi: "Zico, genel yapay zekanın tüm insanlığa fayda sağlamasına yardımcı olacak yapay zeka güvenliği ve sağlamlığı konusunda derin bir teknik anlayış ve perspektif katıyor."

Daha önce C3.ai'de baş veri bilimcisi olan Kolter, 2010 yılında Stanford Üniversitesi'nde bilgisayar bilimleri alanında doktorasını tamamladı ve ardından 2010-2012 yılları arasında MIT'de doktora sonrası bursu aldı. Araştırmaları, otomatik optimizasyon teknikleri aracılığıyla mevcut yapay zeka güvenlik önlemlerini atlama potansiyelini göstermeyi içeriyor.

Endüstri işbirliklerine yabancı olmayan Kolter, şu anda Bosch'ta "baş uzman" ve AI startup Gray Swan'da baş teknik danışman olarak görev yapıyor.