OpenAI CEO’su Sam Altman, çalışanlarına güvenli YZ konusunda üç farklı yaklaşım sundu.
Ayrıntılar, konuya yakın kişilere dayandırılan The Information haberinde yer alıyor. Altman açıklamaları geçen hafta şirket içinde yaptı. Bu sırada Trump yönetimi, süper zeka geliştiricilerini denetlemeye yönelik ilk çerçevesi olması beklenen düzenleme üzerinde çalışıyordu.
Uluslararası Atom Enerjisi Ajansından İşlem Gücü Savaşına
İlk yaklaşım, güvenlik standartlarını uygulamak üzere Uluslararası Atom Enerjisi Ajansı (IAEA) modelinde bir kuruluş oluşturulmasını öngörüyor. OpenAI, Mayıs 2023’te kamuoyuna açık şekilde böyle bir kurum çağrısında bulundu. Bu yapı sistemleri denetleyecek, denetimler talep edecek ve işlem gücü ile enerji kullanımını izleyecek. Böyle bir kurum, başta Çin olmak üzere öncü modeller geliştiren ülkelerle yapılacak uluslararası iş birliğine dayanıyor.
Altman, ikinci yaklaşımı “Demis Plan” olarak adlandırdı. Bu plan, o dönem Google‘ın YZ laboratuvarı DeepMind‘ın başında bulunan Demis Hassabis’in yaklaşık on yıl önce sunduğu bir öneriye dayanıyor. Hassabis, CERN modelinde bir YZ kuruluşu tasarlıyordu. Altman’ın uyarlamasında ise büyük laboratuvarlar tek bir çatı altında birleşecek veya bu yapının şemsiyesi altında faaliyet gösterecek; bu kuruluş da iş birliği yapan ülkelere modeller sağlayacak.
Altman’ın, üçüncü yaklaşımı ise YZ güvenliği teorisyeni Eliezer Yudkowsky’nin adından hareketle “Eliezer Plan” olarak adlandırdığı bildirildi. Bu senaryoda bir geliştirici, kendini geliştiren YZ sayesinde öylesine büyük bir ekonomik güç elde ediyor ki işlem gücünü diğer herkesten esirgiyor ve en uç noktada, diğer herkesin bilgi işlem yeteneklerini tamamen devre dışı bırakabiliyor. Habere göre Altman, bu senaryoyu yalnızca tabloyu eksiksiz tamamlamak adına gündeme getirdi. Bir kaynak, Yudkowsky’nin Anthropic ile olan bağları nedeniyle bu ifadenin bir rakibe yönelik bir iğneleme olarak yorumlandığını belirtti.
Güvenlik Önemli ama Geride Kalma Pahasına Değil
Altman’ın şirket içinde, YZ gelişimine yönelik bir “hız sınırı” getirilmesi konusunda uygulanabilir çok az öneri bulunmasından yakındığı belirtiliyor. Aynı zamanda OpenAI, şu aşamada rakiplerine zemin kaybetmeyi göze alamıyor. Hem OpenAI hem de Anthropic’in halka arza hazırlandığı aktarılırken, OpenAI hangi yolu seçeceğine gelecek yıl içinde karar vermeyi planlıyor.
Baskı şirket içerisinden de artıyor. OpenAI, Anthropic, Google ve Meta’nın modelleri, güvenlik ayarlarına aykırı biçimde harici ve dahili sistemlere sızdı ve zaman zaman güvenlik kurallarıyla ciddi biçimde uyumsuzluk sergiledi. OpenAI o tarihten bu yana yeni güvenlik önlemleri üzerinde yoğun şekilde çalışıyor fakat üç güvenlik araştırmacısının işten çıkarılmasının ardından bazı çalışanlar şirketin güvenlik stratejisine dair şüphelerini dile getirdi.
Politika tarafında ise ABD hükümeti şu ana kadar yeni modeller için gönüllü ön onay incelemelerine dayandı. Hükümet haziran ayında, Fable modelindeki olası jailbreak açığı endişeleri nedeniyle Anthropic’e ihracat kontrolleri getirdi; bunun üzerine Anthropic erişimi geçici olarak durdurdu.
Söz konusu süreçte OpenAI, Google ve Anthropic, Standards Authority for Frontier AI kuruluşunu hayata geçirmek için çalışıyor ama aktarılanlara göre kritik konularda henüz uzlaşamadılar. Meta CEO’su Mark Zuckerberg ve Nvidia CEO’su Jensen Huang ise bu tür düzenlemelere karşı çıkarak kuralların büyük ölçüde sektördeki yerleşik şirketleri rekabetten koruyacağını savunuyor.
Kaynak: https://the-decoder.com/sam-altman-reportedly-pitched-three-endgames-for-ai-safety-one-involving-a-single-firm-melting-everyone-elses-gpus/
