OpenAI, modellerinin yol açabileceği potansiyel zararları önceden öngörecek, kötüye kullanım senaryolarını analiz edecek ve şirketin güvenlik stratejisini şekillendirecek yeni bir üst düzey yönetici arıyor. Yönetici arayışı, ChatGPT’nin kullanıcıların ruh sağlığı üzerindeki etkileri nedeniyle şirketin çok sayıda suçlamayla ve birkaç haksız ölüm davasıyla karşı karşıya kaldığı bir yılın sonunda gündeme geldi. Sam Altman, X platformu üzerinden yaptığı paylaşımda, “Modellerin ruh sağlığı üzerindeki potansiyel etkisi, 2025 yılında önizlemesini gördüğümüz bir şeydi.” diyerek durumu kabul ederken, artan teknolojik yeteneklerin beraberinde getirdiği diğer “gerçek zorluklara” da dikkat çekti ve söz konusu yöneticinin “önemli bir zamanda kritik bir rol” taşıdığını vurguladı.
İş ilanına göre yıllık 555 bin dolar maaş ve hisse payı sunulan yönetici, şirketin en gelişmiş modellerinin yaratabileceği siber saldırı, biyolojik tehdit ve toplumsal manipülasyon gibi felaket boyutundaki riskleri denetleyen Preparedness Framework sistemine liderlik edecek. Altman, pozisyonun doğasına dair yaptığı değerlendirmede, görevin son derece stresli olduğunu ve işe başlayan kişinin neredeyse anında derin bir sorumluluk alanının içine gireceğini ifade etti. YZ kaynaklı felaketleri önlemeye odaklanan denetim mekanizması, sistemlerin yol açabileceği yüksek riskli senaryoların erken tespiti ve yönetimini OpenAI’nın güvenlik önceliklerinin merkezine yerleştiriyor.
Son iki yıl içinde OpenAI’nın güvenlik ekiplerinde dikkat çekici bir kadro hareketliliği yaşandı. Eski başkan Aleksander Madry, Temmuz 2024’te farklı bir birime atanırken, görev geçici olarak Joaquin Quinonero Candela ve Lilian Weng arasında paylaştırıldı ancak Weng birkaç ay sonra şirketten ayrıldı. Temmuz 2025’te Quinonero Candela da hazırlıklılık ekibinden çıkarak işe alım departmanının başına geçtiğini duyurdu. Arka arkaya gelen değişimler, şirketin risk yönetimi yapısını yeniden şekillendirme ihtiyacını daha da belirgin hale getirdi.
Kaynak: https://www.engadget.com/ai/openai-is-hiring-a-new-head-of-preparedness-to-try-to-predict-and-mitigate-ais-harms-220330486.html
