Sam Altman OpenAI'ın güvenlik komitesinden ayrıldı.

OpenAI CEO'su Sam Altman, OpenAI'ın Mayıs ayında şirketin proje ve operasyonlarıyla ilgili “kritik” güvenlik kararlarını denetlemek üzere oluşturduğu iç komisyondan ayrılıyor.

OpenAI bugün yayınladığı bir blog yazısında, Emniyet ve Güvenlik Komitesi adlı komitenin Carnegie Mellon profesörü Zico Kolter başkanlığında ve Quora CEO'su Adam D'Angelo, emekli ABD Ordusu Generali Paul Nakasone ve eski Sony Genel Müdür Yardımcısı Nicole Seligman'ın da yer aldığı “bağımsız” bir yönetim kurulu gözetim grubu haline geleceğini söyledi. Bunların hepsi OpenAI'nin mevcut yönetim kurulu üyeleridir.

OpenAI yayınladığı yazıda, Altman'ın görevden ayrılmasının ardından komisyonun OpenAI'nin en son yapay zeka modeli olan o1 üzerinde bir güvenlik incelemesi gerçekleştirdiğini belirtti. Şirket, grubun OpenAI emniyet ve güvenlik ekiplerinden düzenli brifingler almaya devam edeceğini ve güvenlik endişeleri giderilene kadar sürümleri erteleme yetkisini elinde tutacağını söyledi.

OpenAI'den yapılan açıklamada, “Çalışmalarının bir parçası olarak, Emniyet ve Güvenlik Komitesi... mevcut ve gelecekteki modeller için teknik değerlendirmeler hakkında düzenli raporların yanı sıra devam eden yayın sonrası izleme raporlarını almaya devam edecek” denildi. “Model lansmanları için açıkça tanımlanmış başarı kriterlerine sahip entegre bir emniyet ve güvenlik çerçevesi oluşturmak üzere model lansman süreçlerimizi ve uygulamalarımızı geliştiriyoruz.”

Altman'ın Güvenlik ve Emniyet Komitesinden ayrılması, beş ABD senatörünün bu yaz Altman'a hitaben yazdıkları bir mektupta OpenAI'nin politikaları hakkında sorular yöneltmelerinin ardından geldi. Bir zamanlar YZ'nin uzun vadeli risklerine odaklanan OpenAI personelinin neredeyse yarısı ayrıldı ve eski OpenAI araştırmacıları Altman'ı OpenAI'nin kurumsal amaçlarını ilerleten politikalar lehine “gerçek” YZ düzenlemelerine karşı çıkmakla suçladı.

OpenAI, federal lobicilik harcamalarını önemli ölçüde artırdı ve geçen yılın tamamında 260.000 dolar olan bütçesini 2024'ün ilk altı ayı için 800.000 dolara çıkardı. Altman ayrıca bu baharın başlarında ABD İç Güvenlik Bakanlığı'nın, ABD'nin kritik altyapısında yapay zekanın geliştirilmesi ve konuşlandırılması için tavsiyelerde bulunan Yapay Zeka Güvenlik ve Emniyet Kurulu'na katıldı.

Altman görevden alınmış olsa bile, Güvenlik ve Emniyet Kurulu'nun OpenAI'nin ticari yol haritasını ciddi şekilde etkileyecek zor kararlar alacağını düşündüren çok az şey var. OpenAI'nin Mayıs ayında yaptığı açıklamada, çalışmalarına yönelik “geçerli eleştirileri” komisyon aracılığıyla ele almaya çalışacağını belirtmesi dikkat çekicidir - elbette “geçerli eleştiriler” bakanın gözündedir.

Eski OpenAI yönetim kurulu üyeleri Helen Toner ve Tasha McCauley, Mayıs ayında The Economist için kaleme aldıkları bir yazıda, OpenAI'ın bugünkü haliyle kendi kendini sorumlu tutabileceğine inanmadıklarını belirttiler. “Deneyimlerimize dayanarak, özyönetimin kâr teşviklerinin baskısına güvenilir bir şekilde dayanamayacağına inanıyoruz” diye yazdılar.

Ve OpenAI'nin kâr teşvikleri giderek artıyor.

Şirketin, OpenAI'ye 150 milyar doların üzerinde değer biçecek bir finansman turunda 6,5+ milyar dolar toplamanın ortasında olduğu söyleniyor. Anlaşmayı tamamlamak için OpenAI'nin, kuruluş misyonu olan “tüm insanlığa fayda sağlayan” yapay genel zeka geliştirmeye devam etmesini sağlamak amacıyla kısmen yatırımcıların getirilerini sınırlandırmayı amaçlayan kar amacı gütmeyen hibrit kurumsal yapısını terk edebileceği bildiriliyor.