OpenAI, ABD hükümetinin ChatGPT 5'i herkesten önce göreceğini söylüyor.

OpenAI, ABD Yapay Zeka Güvenlik Enstitüsü ile bir ortaklık kurduğunu açıkladı. Bu işbirliğinin bir parçası olarak OpenAI, Enstitü'ye bir sonraki temel modeli olan ChatGPT-5'e erken erişim sağlayacak. OpenAI CEO'su Sam Altman'a göre, federal kurumla yapılan ortaklık, gelecek AI modellerinin halka açıklanmadan önce güvenli ve güvenilir olmasını sağlamayı amaçlıyor.

Altman işbirliğini X platformunda kısa süre önce yayınladığı bir yazıyla duyurdu ve "ekibimiz ABD Yapay Zeka Güvenlik Enstitüsü ile bir sonraki temel modelimize erken erişim sağlayacağımız bir anlaşma üzerinde çalışıyor, böylece yapay zeka değerlendirmeleri bilimini ilerletmek için birlikte çalışabiliriz" dedi.

Bu ortaklık kapsamında, Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) tarafından resmi olarak kurulan ABD YZ Güvenlik Enstitüsü, güvenlik protokollerinin sağlam ve deneysel olarak doğrulanmış olmasını sağlayarak YZ ölçümü ve politikası için kılavuzlar ve standartlar geliştirmekle görevlendirilmiştir.

OpenAI ve ABD YZ Güvenlik Enstitüsü arasındaki ortaklık duyurusu, YZ güvenliği ve OpenAI'nin önceliklerinin yönü konusunda artan endişelerin ortasında geldi. Bu yılın başlarında Mayıs ayında OpenAI, YZ modellerinin insan niyetleriyle uyumlu olmasını ve 'haydutluk' yapmamasını sağlamaya adanmış olan Superalignment ekibini dağıttı. Bu dağılmanın ardından, Jan Leike ve kurucu ortak Ilya Sutskever de dahil olmak üzere birçok kilit ekip üyesi OpenAI'den ayrıldı. Leike daha sonra Anthropic AI'ya katılırken, Sutskever Safe Superintelligence Inc. adında yeni bir yapay zeka güvenlik girişimi kurdu.

Leike, OpenAI'nin söz verdiği kaynakların, özellikle de güvenlik çabalarını desteklemesi beklenen hesaplama gücünün eksikliğinden duyduğu hayal kırıklığını bile dile getirdi. OpenAI'nin liderliğini, güvenliği sağlamak yerine yeni ürünlerin piyasaya sürülmesine öncelik vermekle eleştirdi. Ancak Altman bu endişelere yanıt vererek şirketin güvenlik konusundaki kararlılığını yineledi. Sam, şirketin bilgi işlem kaynaklarının en az yüzde 20'sini güvenlik çalışmalarına ayırdığını ve bu taahhüdün ilk olarak Temmuz ayında verildiğini kaydetti.

Bu arada, işbirliği duyurusunda Altman, çalışan sözleşmelerinden aşağılayıcı olmayan maddelerin kaldırıldığını da açıkladı. Bu hamle, hem mevcut hem de eski çalışanların misilleme korkusu olmadan endişelerini dile getirmekte özgür hissettikleri bir ortamı teşvik etmeyi amaçlıyor. Altman yazısında "Bu her şirket için çok önemlidir, ancak bizim için özellikle önemlidir ve güvenlik planımızın önemli bir parçasıdır" dedi.

OpenAI'nin ABD Yapay Zeka Güvenlik Enstitüsü ile ortaklığı, yapay zeka güvenliği konusunda hükümet organlarıyla yaptığı ilk işbirliği değil. Geçen yıl hem OpenAI hem de DeepMind, YZ modellerini Birleşik Krallık hükümetiyle paylaşmayı kabul ederek YZ geliştiricileri ve düzenleyici kurumlar arasında artan bir işbirliği eğiliminin altını çizdi.

Ayrıca, OpenAI'nin güvenlik ve yönetişim konularına odaklanmak üzere emekli ABD Ordusu Generali Paul M. Nakasone'yi yönetim kuruluna atadığını duyuran OpenAI, blog yazısında "Nakasone'nin atanması OpenAI'nin güvenlik ve emniyete olan bağlılığını yansıtıyor ve YZ teknolojisinin etkisi artmaya devam ederken siber güvenliğin artan öneminin altını çiziyor.