Kâr amacı gütmeyen METR ve Redwood Research, perşembe günü yaptıkları açıklamada OpenAI’ın şirket içi izleme sistemini pilot bir çalışmayla değerlendirdiklerini duyurdu. Bu çalışma, YZ şirketinin üçüncü taraf güvenlik kuruluşlarıyla iş birliğini nasıl derinleştireceğini belirlemeye yönelik en son girişimi oldu.
METR ve Redwood, çalışmanın OpenAI’ın dış araştırmacılara şirket içi altyapısına “derinlemesine erişim” sağlamasının pratikte nasıl işleyeceğini test etmek amacıyla tasarlandığını belirtti.
21 Temmuz – 11 Ağustos tarihleri arasında, her iki kuruluştan birer çalışan OpenAI’ın şirket içi kod tabanına, belgelerine ve bazı teknik personeline erişim sağladı. Yayımlanan bültene göre çalışanlara ofisteyken refakat edildi ve çalışanlar “tesis dışına asla çıkarılmayan”, OpenAI tarafından tahsis edilmiş cihazları kullandı.
Denetçiler, ajanların son eylemlerinden “yüzlercesinin” izlenmesini engellemesine imkân tanıyan bir istismar yöntemi de dahil olmak üzere birden fazla “yeni güvenlik açığı” keşfetti. Açıklamaya göre OpenAI, üretim koruma önlemlerini etkileyen güvenlik açıklarını yamadığını METR ve Redwood’a bildirdi.
Pilot çalışmanın “OpenAI’ın izleme sistemi hakkında kamuoyuna kapsamlı bir şeffaflık sağlamak” üzere tasarlanmaması sebebiyle METR ve Redwood, bulgularına dair yalnızca üst düzey bir kamuoyu özeti yayımlama konusunda anlaştıklarını açıkladı. OpenAI ile 61 sayfalık şirket içi bir rapor paylaşan kuruluşlar, gelecekteki çalışmalar hakkında kamuoyuyla daha fazla ayrıntı paylaşmayı beklediklerini aktardı.
Bir OpenAI sözcüsü CNBC’ye yaptığı açıklamada, “Bu iş birliği, üçüncü taraf testlerinde yeni yaklaşımlara öncülük etme yönündeki uzun soluklu taahhüdümüze dayanıyor; öğrendiklerimizi koruma mekanizmalarımızı güçlendirmek ve bağımsız denetçilerle gelecekteki ortaklıklarımızı şekillendirmek için kullanıyoruz.” dedi.
Anthropic CEO’su Dario Amodei’nin YZ geliştirme hızını yavaşlatma planının parçası olarak bu fikri önermesinin ardından, OpenAI CEO’su Sam Altman da eylül ayında bağımsız denetçilere şirkete “çalışan benzeri bir erişim” sağlama taahhüdünde bulundu. Anthropic o tarihten bu yana Accenture, METR ve SecureBio gibi kuruluşlarla anlaşmalar duyurdu. OpenAI ise bu ayın başlarında “üçüncü taraf güvenlik denetçileriyle sözleşmelerin aktif olarak tamamlama aşamasında olduğunu” bildirdi.
YZ düzenlemelerinde daha az müdahaleci bir yaklaşım benimseyen ABD Başkanı Donald Trump da üçüncü taraf değerlendirmelerine destek verdi. Trump, Beyaz Saray’da sunduğu gönüllü bir mutabakat kapsamında YZ şirketlerini “bağımsız bir dış denetçi veya değerlendiriciyle ortaklık kurmaya” teşvik etti. Mutabakatı Anthropic CEO’su Amodei’nin yanı sıra Google, Meta, OpenAI, SpaceX ve Nvidia’nın üst düzey yöneticileri de imzaladı.
Bağımsız değerlendiriciler, bugüne kadar trilyonlarca dolarlık YZ sektörünün nispeten sessiz bir köşesinde kaldı; uzmanlar CNBC’ye bu grupların nasıl finanse edileceği ve raporlama yapılarının nihayetinde nasıl bir şekil alacağı konusunda soru işaretlerinin sürdüğünü söyledi.
METR ve Redwood perşembe günü yaptıkları açıklamada, üç haftalık pilot süreç boyunca OpenAI’ın şirket içi uyumsuzluk izleme sistemini stres testine tabi tuttuklarını belirtti. YZ alanında uyum (alignment), araştırmacıların bir modelin insan çıkarları ve değerleriyle uyumlu hareket edip etmediğini tanımlamak için kullandığı kavramı ifade ediyor.
Değerlendiriciler izleme sistemini 21 Temmuz ve öncesindeki mevcut hâliyle değerlendirdi ve OpenAI’ın çalışma sürerken sistemi genişletmekte olduğunu not etti.
Kaynak: https://www.cnbc.com/2026/10/22/metr-redwood-research-open-ai-test.html
