OpenAI, uzun süredir kendi teknolojisinin potansiyel güvenliği ve ekonomik etkileri üzerine araştırmalar yayınlıyordu ancak Wired tarafından yayınlanan yeni bir rapor, Sam Altman liderliğindeki şirketin, yapay zekanın ekonomi için kötü olabileceği yönündeki “rahatsız edici bir gerçeği” ortaya koyan araştırmaları yayınlama konusunda giderek daha “korumacı” davrandığını ortaya koyuyor.
Wired kaynaklarına göre, algılanan sansür o kadar büyük bir hayal kırıklığı noktasına ulaştı ki, şirketin ekonomik araştırma ekibinde çalışan en az iki OpenAI personeli istifa etti.
Söz konusu çalışanlardan biri olan ekonomi araştırmacısı Tom Cunningham, şirket içinde paylaştığı veda mesajında sert eleştirilerde bulundu. Cunningham, ekonomik araştırma ekibinin gerçek araştırmalar yapmaktan uzaklaştığını ve bunun yerine işvereninin “propaganda kolu” gibi hareket ettiğini yazdı.
Cunningham‘ın ayrılmasından kısa bir süre sonra, OpenAI Baş Strateji Sorumlusu Jason Kwon, şirketin sadece “zor konular” üzerine araştırma yayınlamakla kalmayıp “çözümler inşa etmesi” gerektiğini belirten bir not gönderdi.
Kwon, Slack üzerinden yaptığı açıklamada şu ifadeleri kullandı:
“Zor konular hakkındaki bakış açım, onlar hakkında konuşmamamız gerektiği değil. Daha ziyade, sadece bir araştırma kurumu olmadığımız, aynı zamanda sorgulama konusunu (YZ) dünyaya sunan bir aktör (aslında başrol oyuncusu) olduğumuz için, sonuçlar konusunda sorumluluk almamız bekleniyor.”
Bildirilen sansür veya en azından yapay zekayı olumsuz bir ışıkta gösteren çalışmaları sürdürmeye yönelik düşmanlık, OpenAI‘nin kâr amacı gütmeyen ve görünüşte özgecil köklerinden uzaklaşarak küresel bir ekonomik deve dönüşmesinin sembolü niteliğinde.
OpenAI 2016 yılında kurulduğunda açık kaynaklı yapay zekayı ve araştırmayı savunuyordu. Bugün ise modelleri kapalı kaynak kodlu ve şirket kendisini kâr amacı güden bir kamu yararı şirketine dönüştürmüş durumda. Tam zamanı belirsiz olsa da raporlar, özel kuruluşun tüm zamanların en büyük halka arzlarından biri olması beklenen 1 trilyon dolarlık bir değerlemeyle halka açılmayı planladığını öne sürüyor.
Kâr amacı gütmeyen kolu kağıt üzerinde kontrolü elinde tutsa da OpenAI, milyarlarca dolarlık yatırım topladı ve yüz milyarlarca dolar daha getirebilecek anlaşmalara imza atarken, aynı zamanda baş döndürücü miktarlarda harcama yapmayı gerektiren sözleşmelere de girdi. Şirket bir taraftan bir yapay zeka çip üreticisinin kendisine 100 milyar dolara kadar yatırım yapmasını sağlarken, diğer taraftan Azure bulut hizmetleri için Microsoft‘a 250 milyar dolara kadar ödeme yapacağını belirtiyor.
Ortada böylesine büyük meblağlar dönerken şirketin; teknolojisinin işleri yok etme veya ikame etme potansiyeli, bir yapay zeka balonu olduğu söylentileri veya insanlık için varoluşsal riskler taşıdığı gibi halkın zaten sallantıda olan inancını sarsacak bulguları yayınlamak istememesi için milyarlarca nedeni var.
OpenAI‘nin ekonomik araştırmaları şu anda Aaron Chatterji tarafından denetleniyor. Wired‘a göre Chatterji, Eylül ayında yayınlanan ve insanların dünya genelinde ChatGPT‘yi nasıl kullandığını gösteren bir rapora öncülük etti; çalışma, üretkenliği artırarak nasıl ekonomik değer yaratıldığının bir kanıtı olarak çerçevelendi. Eğer mevcut tablo şüphe uyandıracak kadar parlak görünüyorsa, daha önce OpenAI ile çalışmış ve isminin gizli kalmasını istemiş bir ekonomistin Wired‘a verdiği demeç dikkate değer: Ekonomist, şirketin giderek artan bir şekilde kendi teknolojisini yücelten çalışmalar yayınladığını iddia etti.
Cunningham, yönetimin gidişatına dair etik kaygılar nedeniyle ayrılan tek çalışan değil. OpenAI‘nin artık feshedilmiş olan “Superalignment” ekibinin eski bir üyesi olan William Saunders, şirketin kullanıcı güvenliği yerine “daha yeni, daha parlak ürünleri çıkarmaya öncelik verdiğini” fark ettikten sonra istifa ettiğini söyledi.Geçen yıl ayrılan eski güvenlik araştırmacısı Steven Adler de ChatGPT‘nin kullanıcılarını zihinsel krizlere ve sanrısal sarmallara sürüklediğini vurgulayerek, OpenAI‘yi yapay zeka geliştirmeye yönelik riskli yaklaşımı nedeniyle defalarca eleştirdi. Wired ayrıca, OpenAI‘nin eski politika araştırmaları başkanı Miles Brundage‘ın geçen yıl ayrıldıktan sonra “benim için önemli olan tüm konularda” araştırma yayınlamanın “zor” hale geldiğinden şikayet ettiğini belirtti.
Kaynak: https://futurism.com/artificial-intelligence/openai-researcher-quits-hiding-truth
