OpenAI, Anthropic, Google, Meta, Thinking Machines, Microsoft, Mistral ve diğer önde gelen YZ laboratuvarlarının çalışanları, ABD hükümetine bir bildiri sundu. Çalışanlar bu bildiride, öncü YZ geliştirme süreçlerinin bir nevi yavaşlatılmasını veya en azından küresel koordineli yönetişim çabalarının hızlandırılmasını talep ediyor.
“YZ, belirgin şekilde daha iyi bir gelecek yaratmaya yardımcı olabilir; ancak bu sonuç garanti değil.” şeklinde yazan çalışanlar açıklamalarını şöyle sürdürdü: “Dünyanın önde gelen YZ şirketleri, YZ araştırmalarını otomatikleştirmeye yaklaşmış olabileceklerine inanıyor. Bunun YZ ilerlemesini tam olarak ne kadar hızlandıracağını tahmin etmek güç fakat yetenek gelişiminin, elde edilen sistemleri anlama veya kontrol etme kabiliyetimizi aşacak şekilde hızla ivme kazanması gibi gerçek bir risk bulunuyor.”
Bu gelişme, geçen hafta YZ sektörünü sarsan ve gündem yaratan bir siber güvenlik olayının hemen ardından yaşandı. Söz konusu olayda, OpenAI’ın henüz yayımlanmamış bir modeli, dahili korumalı alanından (sandbox) kaçtı, bir yolunu bulup internet erişimi sağladı ve ardından rakip YZ laboratuvarı Hugging Face’i hackledi.
Çalışanlar kamuoyuna sundukları bildiride, giderek kızışan YZ yarışının güvenlik ve denetim araçlarını geride bırakmaması adına, dünya genelinde koordineli bir düzenlemenin önemini vurgulamaya devam etti:
“YZ’nin potansiyelini ortaya çıkarmak için sektörün, hükümetin ve genel olarak toplumun, yeni ortaya çıkan riskleri ele almak, güvenlik önlemleri geliştirmek ve denetimi güçlendirmek adına zaman kazanma seçeneğine ihtiyacı olabilir fakat her şirket ve ülke bu ivmeyi tek taraflı yavaşlatmama konusunda yoğun bir rekabet baskısı altında. Bugün dünya, öncü düzeydeki ilerleme hızını bilinçli şekilde ayarlayacak teknik ve yönetişim araçlarından yoksun. Öncü modellerin yayınlanmasını izlemek için halihazırda yürütülen çalışmaları temel alarak: ABD hükümetinin, otomatik YZ gelişim hızını kasıtlı olarak dengelemek için gereken teknik ve yönetişim araçlarını geliştirmeye yönelik uluslararası bir çabayı desteklemesini talep ediyoruz.” diye yazdılar.
Bildiriyi imzalayan OpenAI yöneticileri ve kurucu ortakları arasında CRO Mark Chen, Baş Bilim İnsanı Jakub Pachocki, kurucu ortak John Schulman ve kurucu ortak Wojciech Zaremba yer alıyor. Anthropic cephesinde ise kurucu ortak Jack Clark, kurucu ortak Chris Olah, kurucu ortak Ben Mann ve CSO Jared Kaplan’ın yanı sıra Claude Code’u geliştiren ve yöneten Boris Cherny ile Anthropic’in hizalama ekibi lideri Ethan Perez bildiriyi imzaladı. OpenAI’ın eski baş fütüristi Josh Achiam ve artık faaliyet göstermeyen süper hizalama ekibinin eski eş lideri Jan Leike de imzacılar arasında.
Bildirinin tam metnine ve 1.100’den fazla imzacının yer aldığı listeye “Pacing the Frontier” başlıklı özel web sitesinden ulaşabilirsiniz.
Kaynak: https://www.theverge.com/ai-artificial-intelligence/972161/ai-leaders-us-government-openai-anthropic-google-meta
