Anthropic, izlediği geliştirme yolunun sonunda insanların YZ sistemlerini kontrol edemez hale gelmesine yol açabileceği uyarısında bulunan bir rapor yayımladı. Şirket, aynı zamanda Claude’un artık kendi kod tabanına eklenen kodların %80’den fazlasını yazdığını açıkladı. Şirketin araştırma kolu Anthropic Institute, YZ’nin halihazırda YZ gelişimini hızlandırmaya başladığını belirtti. Bu eğilim, bir modelin çok az insan girdisiyle kendi ardılını tasarlayıp inşa ettiği nokta olan özyinelemeli kendini geliştirmeye yol açabilir. Rapor, dünyanın sınır teknolojilerin gelişimini yavaşlatma veya durdurma seçeneğini açık tutması gerektiğini savunuyor. Ayrıca, mevcut modellerde zaman zaman görülen uyumsuzlukların, bu modeller bir sonraki nesli inşa ettikçe daha yaygın ve anlaşılması zor hale gelebileceği konusunda uyarıda bulunuyor.
Şirket, önümüzdeki birkaç yılın nasıl şekillenebileceğine dair oldukça vahim üç senaryo ortaya koydu. En ciddi uyarılarını ise modellerin kendilerini tamamen geliştirme yeteneğine kavuştuğu senaryoya sakladı. Anthropic, bu durumda ilerleme hızının neredeyse tamamen mevcut hesaplama gücüne bağlı olacağını belirtiyor. Bu senaryoda insanlar sadece denetim ve doğrulama rollerine itilecek; kendi kendini geliştiren modelin yetenekleri, onu inşa eden insanları geride bırakacağı için sistem tamamen egemen olacak.
Şirket, bu olası uyum sorununu ve bir sistemin davranışını insan amacıyla uyumlu tutma görevini, geleceğe dair en az emin olduğu konulardan biri olarak tanımlıyor. Bugün nadir yaşanan ve atlatılabilen uyumsuzluklar, kontrol elden çıkana kadar nesilden nesile katlanarak büyüyebilir. Şirket, yeterince yetenekli ve iyi uyumlanmış bir modelin bunun yerine kendi gelişimini durdurmayı seçebileceğini de kabul ediyor. Anthropic, söz konusu uyumsuzluğun “biz onlar üzerindeki kontrolü kaybedene kadar daha sık yaşanan ancak daha az anlaşılan bir duruma dönüşebileceğini” yazdı.
Anthropic, uyarıları daha önce görülmemiş bir dizi şirket içi veriyle destekliyor. Geçen ay itibarıyla canlı kod tabanına eklenen kodların %80’inden fazlasını Claude yazdı. Oysa geçen yılın şubat ayında Claude Code araştırma önizlemesine sunulmadan önce bu oran tek haneli düşük seviyelerde seyrediyordu. Anthropic, ortalama bir mühendisin artık “2021-2025 dönemine kıyasla 8 kat daha fazla kod entegre ettiğini” belirtiyor.
En zor ve en belirsiz kodlama görevlerinde Anthropic, Claude’un Mayıs 2026’da %76 oranında başarıya ulaştığını ifade ediyor. Bu, altı ayda 50 puanlık bir artış demek. Her yeni modelden eğitim kodunu daha hızlı çalıştırmasını isteyen düzenli bir şirket içi testin sonuçları, Mayıs 2025’te Claude Opus 4 ile orjinal hızın yaklaşık üç katıyken, nisan ayında henüz yayımlanmamış Mythos Preview modeliyle yaklaşık 52 katına çıktı.
Anthropic, geliştirmeyi ancak sınır teknolojideki veya buna yakın rakip laboratuvarların da doğrulanabilir bir şekilde aynısını yapması durumunda yavaşlatacağını veya durduracağını ifade ediyor. Tek bir şirketin faaliyetlerini askıya almasının, daha geniş bir amaca hizmet etmeden yalnızca lideri değiştireceğini belirtiyor. Bunun gerçekleşmeyeceği ise oldukça açık.
Anthropic tarafından paylaşılan tüm veriler şirketin kendi beyanı olup herhangi bir denetimden geçmedi. Üstelik veriler, şirketin halka arz başvurusunda bulunmasından birkaç gün sonra ortaya çıktı. Şirket, nisan ayında da benzer bir öz değerlendirme yayımlayarak Mythos Preview’un binlerce ciddi yazılım açığı keşfettiğini öne sürmüştü. İddia daha sonra, sonucun ne kadarının küçük bir manuel örnekleme dayandığı konusunda incelemeye tabi tutuldu.
Kaynak: https://www.tomshardware.com/tech-industry/artificial-intelligence/anthropic-says-claude-now-writes-more-than-80-percent-of-its-merged-code
