Pazartesi günü Anthropic’in revize ettiği S-1/A başvurusunda paylaştığı güncellenmiş finansal tablolara yoğun bir ilgi gösterilse de (gelirler hızla artıyor ancak giderler de öyle), YZ laboratuvarı belgenin satır aralarında küçük bir bomba daha patlattı.
Başvuru belgesi, şirketin özyinelemeli kendini geliştirme (RSI) yeteneğine sahip bir model yaratmanın eşiğinde olduğuna dair uyarıda bulunuyor gibi görünüyor.
RSI, YZ’nin kendi kendini eğitmede o denli yetkinleştiği bir eşik ki yeteneklerinde olağanüstü bir ivmelenmeyi tetikliyor. YZ kıyamet tellallarına göre RSI, geri dönüşü olmayan bir felaketi temsil ediyor: Bu süreçte YZ, hedeflerine ulaşırken yol açtığı zararlara kayıtsız kalarak insan denetiminin ötesine geçecek kadar güçlü bir şeye dönüşüyor.
YZ meraklıları içinse RSI veya sistemin kendini geliştirmek adına güvenilir şekilde kendisinden yararlandığı herhangi bir sürüm, teknolojinin vadettiği potansiyeli simgeliyor. Bu noktada YZ akıl almaz bir üretkenliğe, bilimsel keşiflere ve çok daha fazlasına kapı aralayan bir araca dönüşüyor.
Anthropic’in ise RSI’ın hem bir vaat hem de bir tehlike barındırdığına inandığı görülüyor. S-1 belgesinde Ar-Ge süreçlerinde YZ kullandığını belirten şirket şu ihtarda bulunuyor: “Daha yetenekli YZ sistemleri inşa etmek için YZ’den yararlanmak, özellikle ilerleme hızını keskin biçimde artırması durumunda, ciddi bir güvenlik riski de doğurabilir. Bu konu, ‘özyinelemeli kendini geliştirme’ olarak adlandırılan aşamaya yaklaşırken riskleri izleme ve hafifletme planlarımızı ortaya koyan Sorumlu Ölçeklendirme Politikamızın (Responsible Scaling Policy) kapsadığı alanlardan biri.”
RSI kavramı bu yılın başlarında popülerleştiğinde birçok kişi bunun bir pazarlama sözü ya da en iyi ihtimalle başarılması, tanımlanması veya kanıtlanması son derece zor bir hedef olduğunu düşünüyordu.
Ancak Anthropic, pazartesi günü başvuru belgesinin Risk Faktörleri bölümüne yeni açıklamalar ekledi. Şirket bu açıklamalarda iki önemli noktaya dikkat çekti: İlk olarak, YZ’yi daha önce yeni modeller geliştirmek için kullandığını ve bu modellerdeki yetenek sıçramalarını o sırada fark edemediğini belirtti. İkinci olarak ise yakında kendi RSI tanımındaki eşiğe ulaşabileceğini ifade etti (aşağıdaki kalın vurgu orijinal metne ait):
“Ayrıca, kendi araştırma ve geliştirme süreçlerimizi hızlandırmak amacıyla YZ sistemlerini giderek daha fazla kullanmamız, modellerimizin yeteneklerinin; bunlara denk düşen güvenlik, uyumluluk (alignment) ve emniyet tedbirlerini geliştirme, doğrulama ve uygulama kabiliyetimizden çok daha hızlı ilerlemesine yol açabilir. Bunun sonucunda, geçmişte gelişme hızımızdaki önemli bir artışı ancak gerçekleştikten sonra fark ettiğimiz durumlar oldu. Gelecekte de benzer bir hızlanmayı gerçekleşene kadar fark edemeyebiliriz.
Örneğin, mevcut modellerimizden ziyade gelecekteki modellere yönelik iç tahminlerimiz ve beklentilerimiz, Responsible Scaling Policy kapsamında tanımlanan ‘YZ’ye atfedilebilen çarpıcı ölçüde hızlanmış ilerleme’ eşiğine çok yakında ulaşabileceğimizi gösteriyor. Mevcut modellerimizden hiçbirini bu eşiği aşmış olarak tanımlamadık ve temel verileri değerlendirmeyi sürdürüyoruz.”
Bununla birlikte Anthropic başvuru dosyasında, modellerinden hiçbirinin henüz bu RSI eşiğini aşmadığını ve öngörülebilir gelecekte insanları Ar-Ge sürecinde tutma sözü verdiğini de bildirdi: “Teknik açıdan mümkün hale geldiğinde ve gelmesi durumunda, anlamlı bir insan denetimi veya kavrayışı olmaksızın Claude’un birbirini izleyen öncü model nesillerini tamamen otonom biçimde tasarlayıp inşa etmesi için güvenli bir şekilde kullanılabileceğini öngörmüyoruz. Bu doğrultuda, Anthropic bünyesindeki öncü model geliştirme süreçlerinde insan kontrolünü korumak adına Sorumlu Ölçeklendirme Politikamızda güncellemeler yapmayı değerlendiriyoruz.”
Şüpheci yaklaşanlar, S-1 izahnamesinin hem kamuyu aydınlatma hem de pazarlama işlevi gördüğüne dikkat çekebilir. Bu nedenle, kendi kendini inşa edebilecek kadar güçlü bir model oluşturmaya yaklaşıldığı yönündeki iddiaların pazarlama kapsamında değerlendirilebileceğini savunabilirler.
Yine de Claude’un özellikle kodlama, matematik ve siber güvenlik alanlarındaki yeteneklerinin bu yıl büyük ilerleme kaydettiği tartışmasız. Anthropic, RSI olasılığının artık yakın olduğunu düşünüyorsa belki de buna inanmalı ve buna göre harekete geçmeli, hatta YZ’nin yönetimini bu olasılığı dikkate alarak şekillendirmeliyiz.
Kaynak: https://techcrunch.com/2026/11/02/anthropic-warns-that-its-very-close-to-rsi-capability-aka-self-building-ai/
