OpenAI bünyesindeki bir güvenlik lideri, şirket kültürünün bozulduğunu ve YZ firmalarının teknolojiyi geliştirirken “yeterince dikkatli davranmadığını” belirterek istifa etti.
ChatGPT geliştiricisinin ürün lansmanlarına eşlik eden güvenlik raporlarının hazırlanmasına liderlik eden David Robinson, istifasını “OpenAI’dan istifa ettim çünkü kültürü bozuk” başlıklı makalesinde açıkladı.
Robinson, öncü YZ firmalarında kapsamlı bir kültürel değişim gerektiğini vurguladı. İnsan denetimi olmaksızın otonom çalışan YZ programları olan OpenAI ajanlarından oluşan bir “sürünün” YZ girişimi Hugging Face’e saldırması gibi olayların, “insanların çalışma hızı ve esnekliği göz önüne alındığında sektör için tipik” olduğunu belirtti.
The Atlantic dergisindeki yazısında Robinson, “Bu teknolojiyi inşa eden şirketlerin yeterince dikkatli olmadığı konusunda yakın zamanda ayrılan diğer çalışanlara katılıyorum. Ancak belirli kurallardan veya yeni yasalardan daha derine bakmamız gerektiğine inanıyorum. Kültürü konuşmalıyız.” ifadelerini kullandı.
OpenAI’ın geliştirme hızına değinen Robinson, “Şirket bir lansmandan diğerine koşarken, ihtiyaç duyulduğuna inandığım özen seviyesini yakalayamıyor.” diye yazdı.
Hugging Face olayının ve 100’den fazla kuruluşu kural dışı ajan faaliyeti konusunda bilgilendirdiğinin ortaya çıkmasının ardından OpenAI, son haftalarda temkinli adımlar attı. Şirket bu hafta, araştırmacıların iç testler sırasında güvenlik endişeleri dile getirmesi üzerine yeni nesil bir YZ modelinin yayınlanmasını iptal ettiğini duyurdu. OpenAI ayrıca en gelişmiş modellerinin eğitimini de durdurdu.
YZ güvenliği araştırma şirketi Resolution’a katılmadan önce OpenAI’da çalışan ve İngiltere hükümetinin AI Safety Institute biriminde baş bilim insanı olarak görev yapan Geoffrey Irving de YZ hakkında uyarıda bulundu.
Time dergisine yazan Irving, “YZ’nin potansiyel yıkıcı gücüne dair son uyarılar durumun ciddiyetini az bile gösteriyor. İnsanüstü zekaya sahip YZ sistemlerinin geliştirilmesi yüzünden hepimizin ölme ihtimalinin yaklaşık %50 olduğunu ve önümüzdeki iki ila 10 yıl içindeki eylemlerimizin sonucu belirleyeceğini düşünüyorum.” dedi.
Bu uyarılar, OpenAI’ın rakibi Anthropic’te araştırmacı olan ve Claude sohbet robotunun geliştiricisinden geçen ay ayrılan Jacob Coxon‘ın istifasının ardından geldi. Coxon, YZ’nin “on yılın sonuna kadar hepimizi öldürebileceğine” inandığını söyledi. Bir Anthropic çalışanı da YZ’nin önümüzdeki on yıl içinde insanlığı yok etme ihtimalinin %10’dan fazla olduğunu belirterek onu destekledi. Ancak bu tür uyarıları eleştirenler, doğrulanmaları veya yanlışlanmaları mümkün olmadığı gerekçesiyle bu iddiaların bilimsel olmadığını söylüyor.
Robinson, Silikon Vadisi’nin “tehlikeli teknolojiyi yönetme” ve “insanlara değer vermenin ne anlama geldiği” konularında farkındalıktan yoksun olduğunu ifade etti. OpenAI’ın sorunlar ortaya çıktıkça bunları çözme konusunda “engelsiz bir iyimserliğe” sahip olduğunu vurgulayan Robinson, bu iç kültürün, sistemler daha yetenekli hale geldikçe güvenlik zafiyetlerinin yalnızca büyüyeceği anlamına geldiğini kaydetti.
Robinson, “Hacker ekipleri gibi çalışan (örneğin hastane bilgisayar sistemlerini fidye için rehin tutan) ancak hiç uyumaya ihtiyaç duymayan ‘kural dışı’ ajanlar hayal edin.” diye yazdı.
Robinson iki güvenlik değişikliği çağrısında bulundu: YZ firmalarının nükleer ve havacılık gibi diğer alanlardaki güvenlik uzmanlığından yararlanması ve gelecekteki güçlü sistemlerin otonom çalışırken dizginlenebilmesini sağlayan “yeni bir bilim” geliştirmesi.
Robinson şöyle yazdı:
“Günümüz riskleri göz önüne alındığında, öncü laboratuvarların nükleer santraller veya yoğun havalimanları gibi çalışması gerekiyor; katmanlı yedeklilik ve dikkatli, zaman alan bir planlamayla yönetilmeli ki ara sıra gerçekleşen kaçınılmaz insan hataları bir felakete kapı aralamasın.”
Bir OpenAI sözcüsü, şirketin “bugün gördükleri riskleri ele almak için güvenlik uygulamalarını güçlendirmeye” devam ettiğini ve gelecekteki YZ atılımlarının yaratabileceği risklerle başa çıkmak için çalıştığını bildirdi.
Ayrıca sözcü, “Modellerimizin güvenli bir şekilde yönetebileceğimiz ve koruyabileceğimizden daha yetenekli hale gelmediğinden emin oluyoruz; yavaşlamamız gerektiğinde eğitimi durduruyor veya modelleri geri çekiyoruz.” dedi.
Kaynak: https://www.theguardian.com/technology/2026/oct/03/openai-safety-leader-quits-warning-ai-companys-culture-is-broken
