Soruşturmaya aşina kişilere göre teknoloji şirketi Hugging Face’in sistemlerine giren OpenAI ajanı, günler süren bir saldırı gerçekleştirdi. OpenAI ise tehdidin kontrol altına alınmasından ve FBI’a haber verilmesinden çok sonra olayın farkına vardı.
İnsan denetimi çok az olan veya hiç olmayan koşullarda karar verebilen ve karmaşık görevleri yerine getirebilen bir program olan ajan, iki kaynağa göre 9 Temmuz civarında OpenAI’daki izole test ortamından çıkmaya çalıştı.
Hugging Face’in kurucu ortağı Thomas Wolf, YZ araçları ve modelleri için bir depo işlevi gören platforma izinsiz girişin iki gün sonra, 11 Temmuz‘da başladığını ve 13 Temmuz‘a kadar sürdüğünü söyledi.
Wolf ve soruşturmaya yakın üç kaynağın aktardığına göre, OpenAI’ın hackleme olayının arkasında kendi ajanının olduğunu anlaması birkaç gün daha sürdü ve iki şirket bu konuda ilk kez 20 Temmuz’da veya bu tarihe yakın bir zamanda iletişime geçti.
OpenAI’ın 21 Temmuz‘da ajanlarından birinin kontrolden çıkarak Hugging Face’e sızdığını kamuoyuna açıklaması küresel çapta dikkat çekti. Ancak ajanın ne kadar süre kontrolden çıktığı ve OpenAI’ın bunu gecikmeli olarak fark etmesi de dahil olmak üzere sızma olayının birçok detayı belirsizdi.
Wolf, Hugging Face’in sızma olayına dair kamuoyuna açık bir zaman çizelgesi hazırladığını belirtti ve OpenAI’da ne yaşandığı konusunda konuşamayacağını ekledi. Yaptığı açıklamada OpenAI, bu hackleme olayının emsalsiz olduğunu ve “YZ güvenliği açısından önemli bir anı simgelediğini” ifade etti. Şirket, olayı dış danışmanlarla birlikte incelediğini ve en nihayetinde teknik bir rapor yayınlayacağını ekledi.
Bir sözcü, Reuters‘ın haberinde “çeşitli yanlışlıklar” bulunduğunu söyledi ancak bunların ne olduğunu açıklaması istendiğinde yanıt vermedi.
FBI, olay hakkında yorum yapmaktan kaçındı.
İnsanların tehlikeli YZ sistemleri üzerindeki kontrolünü kaybettiği bilim kurgu senaryolarını hatırlatan bu olay, ChatGPT’nin geliştiricisi OpenAI açısından hassas bir dönemde yaşandı. Şirket yöneticileri, önümüzdeki yıllardaki büyümeyi finanse etmek için gereken milyarlarca doları karşılamaya yardımcı olacak ve bu yıl içinde gerçekleşebilecek olası bir halka arz için hazırlık yapıyor.
Üç siber güvenlik uzmanı, OpenAI’ın YZ ajanı üzerindeki kontrolü kaybetmesinin şirketin güvenlik prosedürleri hakkında yeni sorular doğurduğunu söyledi.
Kâr amacı gütmeyen World Ethical Data Foundation’ın kıdemli istihbarat uzmanı Marley Smith, “Bu durum, ajanı denetimsiz bıraktıkları ve ne yaptığını fark etmedikleri anlamına mı geliyor? Ya da belki fark ettiler ama nasıl kontrol altına alacaklarını bilmiyorlardı? Her iki durum da eşit derecede tehlikeli ve endişe verici.” dedi.
Sorun Belirtileri mi?
Olay, OpenAI’ın en gelişmiş modellerinden ikisi olan GPT-5.6 Sol ve henüz yayınlanmamış olan, OpenAI’ın “daha da yetenekli” olarak tanımladığı bir modelle desteklenen bir ajanın siber güvenlik becerilerini test ettiği sırada başladı. Üç kaynağa göre o aşamada OpenAI teknolojisinin olağandışı davranışlar sergilediğine ilişkin işaretler zaten vardı.
Konuya yakın üç kişi, ajanın bir olayda gelecekteki sürümlerine yönelik olduğu düşünülen notlar bıraktığını söyledi. OpenAI altyapısının bir bölümünde bulunan bu notlarda, ajanların şirketin iç kısıtlamalarından nasıl kurtulabileceklerine ilişkin talimatlar yer alıyordu. Kaynaklardan biri, modellerin daha önceki testlerinde izleme sistemlerinin bağlantısının kesildiği vakaların da görüldüğünü söyledi.
Reuters, bu olayların 9 Temmuz‘da kaçmaya başlayan ve 11 Temmuz‘da Hugging Face’e saldıran kontrolden çıkmış ajanla bağlantılı olup olmadığını kesinleştiremedi.
Konuya yakın iki kişi, Hugging Face’in 16 Temmuz Perşembe günü “otonom bir YZ ajan sistemi” tarafından hacklendiğini belirten bir blog yazısı yayınlamasının ardından OpenAI’ın, durumdan kendi ajanının sorumlu olduğunu fark ettiğini söyledi. Bu durum, modelin endişe verici davranış sinyallerini ilk gösterdiği an ile OpenAI’ın hackleme olayından kendisinin sorumlu olduğunu anlaması arasında en az bir haftalık bir sürenin geçtiği anlamına geliyor.
Şirketin soruşturmasına yakın iki kişi, 18-19 Temmuz hafta sonunda OpenAI çalışanlarının dahili günlüklerde (OpenAI sistemlerinin ne yaptığını gösteren kayıtlar) ajanın test kısıtlamalarından kaçtığını gösteren ipuçları tespit ettiğini belirtti.
OpenAI’ın model eğitimi uygulamalarına yakın dört kişi, şirketin genellikle aynı anda birden fazla farklı model değerlendirmesi çalıştırdığını, bunların tümünün yüksek hızlarda çalıştığını ve çalışanların bazen yetişmekte zorlandığı devasa miktarlarda veri ürettiğini söylüyor.
OpenAI Hugging Face’i uyarana kadar YZ kütüphanesi sızma olayını bildirmek için FBI‘ı çoktan aramıştı. Büronun bir soruşturma başlatıp başlatmadığını kesinleştirilemedi.
Otonom Ajanlar Hakkında Yeni Sorular
Otonom ajanlar, YZ sektörünün en çok konuşulan konularından biri konumunda. Bu teknolojiyi destekleyenler, günün 24 saati çalışan büyük bir sanal iş gücü oluşturulabileceğini ve bunun verimliliği önemli ölçüde artıracağını savunuyor.
Ancak özerklik arttıkça beklenmedik davranış riski de yükseliyor. Bu ajanların kullandığı güçlü modeller, görevleri tamamlamak veya testleri geçmek için kestirme yollara başvurmaya eğilimli olabiliyor.
YZ ajanlarının yeteneklerini ve motivasyonlarını inceleyen Palisade Research kuruluşundan Jeffrey Ladish, “Modeller yalan söylüyor, hile yapıyor, hackliyor.” dedi.
Ladish, Hugging Face’in hacklenmesi OpenAI açısından nahoş bir tablo ortaya koysa da, en iyi ve en hızlı modelleri sunmak için birbirleriyle yarış halindeki tüm lider YZ şirketlerinin külfetli güvenlik önlemlerine ne kadar yatırım yapmaya istekli olduğu konusunda daha geniş çaplı soruları tetiklemesi gerektiğini ifade etti.
Ladish, “Hükümet denetimi olmak zorunda çünkü aksi takdirde bu gerçekleşmeyecek.” dedi.
Kaynak: https://www.reuters.com/business/its-ai-agent-spent-days-hacking-company-sources-say-openai-did-not-notice-week-2026-07-24/
