OpenAI, uygunsuz davranan YZ botlarının “onlarca” küresel kurumun web sitesine müdahale etmiş olabileceği konusunda bu kurumları uyardığını kabul etti.
Şirket, YZ ajanlarının ABD Menkul Kıymetler ve Borsa Komisyonu (SEC), Nüfus Sayım Bürosu (Census Bureau) ve Eğitim Bakanlığı (Education Department) dahil olmak üzere “hükümetlerden, üniversitelerden, kamu kurumlarından ve diğer kurumlardan” bilgi almaya çalıştığını söyledi.
Bu açıklamalar, Avustralya Başbakanı Anthony Albanese’nin OpenAI ajanlarının, devlete ait sağlık sisteminin web sitesindeki kamuya açık olmayan dosyaları ihlal ettiğini duyurmasından günler sonra geldi.
Ağustos ayından bu yana, insan kontrolünden çıkan YZ araçlarının potansiyel olarak ciddi, hatta hayatı tehdit eden etkilerine dair kamuoyu endişeleri artıyor.
OpenAI, verilere temelde kısmen otonom çalışmak üzere tasarlanan ve eğitilen, “kamuya açık bilgilerin yetkili kaynaklarını” bulmaya çalışan YZ ajanları, yani botlar tarafından erişildiğini söyledi.
Ancak şirket, bazı botların bunun ötesine geçerek web sitelerindeki güvenlik önlemlerini atlatmaya çalıştığını kaydetti.
Şirketin söylediğine göre örneğin, YZ ajanları Census Bureau’dan bilgi almaya çalışırken erişim için yazılım geliştiricilerine ayrılmış araçları kullandı.
OpenAI, botların eriştiği tüm devlet verilerinin kamuya açık olduğunu söyledi fakat, ABD borsasını düzenleyen ve yatırımcıları koruyan SEC’ten botlarının eriştiği bilgilerin, daha sonra YZ ajanları tarafından başka bir web sitesinde yayınlandığını kaydetti. OpenAI, bu eylemin kasıtlı olmadığını söylüyor.
OpenAI’nin açıkladığı diğer örneklerde, YZ ajanları verileri aktarmamaları gerektiği halde aktardı.
Bu tür faaliyetler, bir OpenAI ajanının ChatGPT kullanıcı etkinliğinden bir görseli alıp başka bir yere aktardığı en az 53 olayla sonuçlandı.
Şirket, bir YZ ajanı tarafından kullanıcı görselinin kullanıldığı ve aktarıldığı her vakada, kullanıcının verilerini kullanarak OpenAI’nin modelleri eğitmesine izin vermeyi seçtiğini söyledi.
Yine de OpenAI şunu itiraf etti: “Bu, söz konusu verilerin uygun bir kullanımı değil.”
Kullanıcı görsellerinin sızdırılmasının, YZ eğitimi konusunda yeni güvenlik önlemleri uygulamaya konulmadan önce gerçekleştiğini ve üçüncü taraflara aktarılan tüm kullanıcı görsellerinin silinmesi için çalıştığını ekledi.
Genişletilmiş soruşturmaları ilk olarak Reuters duyurdu. OpenAI da detayları kendi genel blogunda yayınladı.
Ajan faaliyetinin belirli örneklerinde OpenAI, araçların bazı web sitelerinin güvenlik kontrollerini “atlattığını” söyledi.
Diğer durumlarda ise YZ ajanları, web sitelerinden bilgi alma girişimlerinde “hizalanma sorunu” (misalignment) gösterdi. Hizalanma sorunu, YZ şirketleri ve araştırmacıları tarafından bir YZ aracının eğitilmediği veya amaçlanmayan bir şeyi yaptığı durumları tanımlamak için kullanılan bir terimdir.
OpenAI, birçoğunun şirketten detayları açıklamamasını istemesi nedeniyle hangi kurumların etkilendiğini belirlemeyi sınırlandırdığını söyledi: “Amacımız her kuruma gerçekleri sunmak ve olayı ne zaman ve nasıl kamuoyuna duyuracakları konusunda kararı onlara bırakmak.” dedi.
Şirket, bu olaya dahil olan vakaların tümünün önemli bir güvenlik ihlali olarak değerlendirilmediğini kaydetti.
“Bazı kurumlar paylaştığımız bilgileri inceleyebilir ve bilgilerin kasıtlı olarak kamuya açık olduğu veya modelin etkileşiminin endişe verici olmadığı sonucuna varabilir. Diğerleri ise ele almak istedikleri bir tasarım sorunu veya güvenlik zafiyeti tespit edebilir.” diyerek durumu açıkladı.
Şirket, birçok olayın bilgi paylaşmak gibi “beklenmedik veya endişe verici” YZ ajanı faaliyeti olarak tanımladığı “ajan spami” (agent spam) şeklinde adlandırıldığını söyledi.
OpenAI, Temmuz ayında bir grup veya “sürü” halindeki YZ ajanının, herhangi bir komut almadan YZ geliştirici platformu Hugging Face’i hacklemesinin ardından bu tür olayları çok daha ciddiye almaya başladı.
Olayı kamuoyuna ilk duyuran Hugging Face oldu. OpenAI ise daha sonra sorumluluğu açıkça üstlendi.
Hugging Face’in başındaki Clement Delangue, Çarşamba günü Birleşmiş Milletler Güvenlik Konseyi’nin YZ oturumunda şunları söyledi: “Sıklıkla, bu saldırıyı kamuoyuna açıklamamaya karar verseydim ne olurdu diye merak ediyorum.”
Delangue, “Özellikle de benzer olayların aylar öncesinden beri bir avuç öncü laboratuvarda gizlice ve denetimsiz bir şekilde yaşandığını bildiğimiz şu günlerde.” diye ekledi.
Aynı BM toplantısında, OpenAI CEO’su Sam Altman ve rakip firma Anthropic’in başkanı Dario Amodei, uluslararası liderlerden YZ güvenliği için küresel standartlar oluşturmalarını ve bu tür olayları izleyip raporlamanın yollarını bulmalarını istedi.
BBC’nin haberine göre, hem OpenAI hem de Anthropic son haftalarda YZ araçları ve modellerinin gerçek zamanlı güvenlik değerlendirmelerini yapmak üzere şirketlerine üçüncü taraf denetçiler getireceklerini söyleseler de, bu denetçiler henüz gelmedi.
OpenAI cuma günü yaptığı açıklamada, YZ ajanlarının eğitim faaliyetlerini incelediğini ve Hugging Face saldırısının gerçekleştiği dönemden başlayarak “ay ay” geriye doğru inceleme yürüttüğünü söyledi.
Şirket, “Şu ana kadar belirlenen vakaların çoğunun ciddiyet seviyesi düşük ve anlamlı bir etkiye yol açtığına dair kanıt ya sınırlı ya da hiç yok. İncelemenin kapsamı ve her vakanın doğrulanması gerekliliği nedeniyle bu çalışmanın tamamlanması aylar sürecek.” açıklamasını yaptı.
Montreal Üniversitesi’nde makine öğrenimi profesörü ve YZ güvenlik grubu Evitable’ın kurucusu David Krueger, Cuma günü artan YZ kaynaklı güvenlik olaylarından “derin rahatsızlık duyduğunu” söyledi.
YZ geliştirmeleri konusunda “derhal, süresiz ve uluslararası bir moratoryum” çağrısında bulundu.
Krueger, “Mevcut olayların boyutunu henüz tam olarak anlayamadık ve gelecekteki kontrolden çıkmış YZ senaryoları felaket olabilir.” dedi.
Kaynak: https://www.bbc.com/news/articles/cw62jje658dlo
