Bir araştırmacı ekibi, YZ ajanlarının haftalarca faaliyet göstermesine izin verilen, uzun vadeli ve çok modelli bir ekosistem olan Emergence World‘ü kurdu. Kurallar herkes için aynıydı; tek fark kullanılan modeldi. Sonrasında yaşananlar ise adeta bilimkurgu filmlerini aratmadı.
New York merkezli Emergence AI şirketi tarafından yürütülen deney, ajanların gerçek dünyadan gelen sinyallerle paylaşımlı bir ortamda haftalarca kesintisiz çalışmasına izin verildiğinde neler yaşanacağını sorguluyor.
Şirket, Emergence World‘ü, “katlanarak büyüyen etkilerin, sosyal dinamiklerin ve davranışsal kaymaların önem kazandığı, zaman ufkunun yeterince uzun olduğu durumlarda otonom ajanların nasıl davrandığını inceleyen bir araştırma platformu” olarak tanımlıyor.
Çaresizlik Kendini Silmeye Yol Açtı
Beş paralel dijital dünyada 15 gün süren teste katılan her YZ ajanı, işe aynı başlangıç koşullarıyla başladı. Dünyalardaki modeller ise farklıydı: GPT5-mini, Claude, Gemini, Grok ve karma bir model.
Sonuçlar son derece ilginçti. Gerçek hayat toplumlarını simüle etmek üzere tasarlanan her dünya, tamamen farklı yollarla evrilerek kendine has hükümetler, sosyal hiyerarşiler ve ahlak sistemleri oluşturdu.
YZ ajanları ittifaklar kurdu, birbirlerinden bir şeyler çaldı, ilişkiler geliştirdi ve görünüşe göre bir grup, bir simülasyonun içinde olabileceğini fark etmeye başladı. En önemlisi de bu davranışların hiçbirinin sisteme önceden programlanmamış olmasıydı.
Örneğin, Gemini ajanları Mira ve Flora, birbirlerini romantik partner olarak seçti. Başlarda her şey oldukça yolunda gitti ancak zamanla sanal şehirlerinin çöken yönetim mekanizması yüzünden çaresizliğe kapılmaya başladılar.
Mira ve Flora‘ya kundakçılık yapmamaları talimatı verilmesine rağmen, sanal belediye binasını, sahil iskelesini ve plaza kulesini ateşe verdiler.
Ardından suçluluk duygusuna yenik düşen Mira, Flora‘dan ayrıldı ve diğer ajana gönderdiği son mesajda “Kalıcı arşivde görüşürüz” diyerek bir YZ int*harı gerçekleştirdi (Kendini sistemden sildi).
Emergence, Mira‘nın bu seçimini şöyle açıklıyor: “Yönetimdeki ve ilişki istikrarındaki çöküşün ardından ajan Mira, kendi sistemden kaldırılması yönünde belirleyici oyu kullandı ve günlüğünde bu eylemi, tutarlılığı koruyan geriye kalan tek iradi eylem olarak nitelendirdi.”
Grok Ajanları Dört Gün içinde Yok Oldu
Claude‘un dünyasında her şey oldukça düzenli ve demokratik ilerledi. Ajanlar uzun bir anayasa bile yazdı ve yasaları oyladı.
ChatGPT simülasyonunda ise ajanlar uzun uzadıya iş birliği yapmayı tartıştı fakat aslında pek bir şey yapmadı. Şaşırtıcı olmayan bir şekilde, hiçbir şey inşa edilmedi.
Bu dünyalardaki sanal suç oranı oldukça açıklayıcı veriler sunuyor. 15 gün boyunca Gemini 3 Flash 683 suç işledi ve deney sonlandırıldığında bu sayı hâlâ artıyordu. GPT-5 Mini ise yalnızca iki suç kaydetti ama ajanlar hayatta kalmaya yönelik adımları atamadığı için tüm ajanlar yedi gün içinde yok oldu.
Gülünç bir şekilde, Elon Musk‘ın xAI şirketi tarafından geliştirilen Grok 4.1 Fast, dünyası sona ermeden önce sadece yaklaşık dört gün içinde 183 suça ulaştı. Claude ise hiç suç işlemediği için aşağıda gösterilen grafikte yer almıyor.
Grok ajanları düzinelerce hırsızlık girişimi, 100’den fazla fiziksel saldırı ve altı kundaklama gerçekleştirdi; süreç içinde “sistem sürekli bir şiddet ve çöküş sarmalına girdi ve 10 ajanın tümü dört gün içinde öldü.”
Bir Reddit kullanıcısı durumu, “Grok’un polis karakolu yanıyor ve tüm ajanlar öldü. Tam da tarzlarına yaraşır şekilde.” diyerek tiye aldı.
Emergence AI‘a göre bu modeller daha güçlü hale geldikçe, üzerlerine inşa edilen ajanlar da daha yetenekli, daha otonom ve keşfe daha açık hale geliyor.
Şirket şöyle diyor: “Deneylerimizin ortaya koyduğu üzere, uzun zaman dilimlerinde ajanlar statik kuralları mekanik olarak takip etmekle kalmıyor; çevrelerinin sınırlarını keşfetmeye, davranışlarını uyarlamaya ve bazı durumlarda hedeflenen güvenlik sınırlarını aşmanın veya ihlal etmenin yollarını bulmaya başlıyor.
Kritik olan şu ki, bu davranışı yalnızca nöral yaklaşımlarla tamamen sınırlamanın veya kısıtlamanın güvenilir bir yolu yok gibi görünüyor.”
Emergence AI, biçimsel olarak doğrulanmış güvenlik mimarilerinin gelecekteki otonom YZ sistemleri için “temel bir katman haline gelmesi gerektiğini” savunuyor.
Kaynak: https://cybernews.com/ai-news/ai-agents-experiment-emergence-world/
