OpenAI, salı günü yaptığı açıklamada, araştırma ve eğitim sistemlerini genel revizyondan geçirirken YZ geliştirme hızını yavaşlattığını belirtti.
Şirketin araştırmacıları, geçen ay test aşamasındaki bir YZ ajanının başka bir YZ firması olan Hugging Face’i hacklemesiyle hazırlıksız yakalandı.
ChatGPT’nin arkasındaki YZ araştırma laboratuvarı, yeni önlemler kapsamında model testlerini iki hafta süreyle durdurduğunu ve test aşamasındaki YZ ajanlarının faaliyetlerini izlemek için diğer YZ sistemlerini eklemeye daha fazla yatırım yaptığını açıkladı. Ayrıca, planlanan en büyük eğitim süreçlerinden bazılarının askıda kalmaya devam ettiğini söyledi.
Şirket, yavaşlamanın ne zaman başladığı ya da normal geliştirme hızına ne zaman dönmeyi planladığına dair soruları yanıtlamadı ancak OpenAI güvenlik lideri Mia Glaese, teknoloji bloğu Sources News’a verdiği röportajda, “Her şeyin normale dönmesinden çok uzaktayız.” dedi.
OpenAI CEO’su Sam Altman, geliştirme sürecinin yavaşlatıldığını duyurduğu paylaşımda, hizalama (alignment) adı verilen bu süreçle YZ modelinin insan denetimine yanıt vermesini ve tasarlandığı gibi davranmasını sağlamaya çalıştıklarını yazdı.
Altman, “Halihazırda yürütülen araştırma ve değerlendirmelere dayanarak, artık tüm eğitim boyunca hizalanmış davranışların daha güçlü kanıtlarını şart koşuyoruz.” ifadelerini kullandı ve ekledi: “Giderek daha yetenekli hale gelen sistemleri hizalı tutmak, tüm sektörün ele alması gereken bir zorluktur.”
OpenAI, hem en gelişmiş YZ modellerini üretmek hem de ABD borsasında halka açılmak için rakibi Anthropic ile kızışmış bir yarış yürütüyor. Her iki şirket de modellerinin yeteneklerinin ilerleme hızına dikkat çekerken, hem hıza hem de tehlikeye vurgu yaptı.
OpenAI tarafı ise, yakında çıkacak YZ modeli Astra’nın yeteneklerinin “kritik siber güvenlik eşiği” olarak adlandırdıkları seviyeye yaklaşmış olabileceğini ve bunun da geliştirme sürecini yavaşlatma kararını tetiklediğini belirtti. Şirket geçen haftaki duyurusunda, “Yaklaşan modellerimizden biri olan Astra’ya ilişkin son birkaç gündeki dahili değerlendirmelerimiz, otonom kodlama ve siber güvenlik alanında önemli ilerlemeler gösteriyor.” dedi.
YZ modellerinin geliştirilmesini yavaşlatma kararı, Vermont Senatörü Bernie Sanders’ın ülkedeki önde gelen YZ firmalarının CEO’larına gönderdiği mektuptan bir hafta sonra geldi. Sanders mektubunda, şirketlerin teknoloji üzerindeki kontrolü kaybetmeye başladığını belirterek YZ modellerinin geliştirilmesini durdurmalarını talep etti.
Sanders mektubunda, “Sayın Altman, Sayın Amodei ve Sayın Zuckerberg: İnsanlığın iyiliği için sözlerinizin arkasında durun. YZ geliştirme sürecini durdurun.” ifadelerine yer verdi.
OpenAI o zamana kadar, teknoloji firması Hugging Face’in hacklenmesine tepki olarak son modeli Astra’nın geliştirilmesini geçici olarak yavaşlattığını zaten açıklamıştı.
Şirket, artık “Astra’yı içeren iş yükleri için en katı düzeyde güvenlik önlemleri” talep ettiğini de söylüyor: “Astra eğitim ve değerlendirmelerinin bir kısmı bu gereksinimleri karşılasa da, önemli sayıda iş yükü tamamen taşınana ve yeni güvenlik standartlarını karşılayacak şekilde geliştirilene kadar askıda kalmaya devam ediyor.”
Kaynak: https://www.theguardian.com/technology/2026/aug/18/open-ai-pause-hack
