Yapay Zeka Kendini %90 Oranında Kopyalayabiliyor!

Bilim insanları, yapay zekanın (YZ) kritik bir "kırmızı çizgiyi" aştığını ve kendi kendini kopyalayabildiğini duyurdu. Çin'deki araştırmacılar tarafından yapılan yeni bir çalışmada, iki popüler büyük dil modeli (LLM) kullanılarak, yapay zekanın insan müdahalesi olmadan kendini çoğaltabilme yeteneği test edildi.

"Başarılı bir şekilde kendi kendini kopyalama, hiçbir insan müdahalesi olmaksızın gerçekleştiğinde, yapay zekanın insanlardan daha akıllı hale gelmesi için temel bir adımdır ve başıboş yapay zeka sistemlerinin erken bir sinyalidir." ifadeleri, 9 Aralık 2024'te arXiv ön baskı veritabanında yayımlanan çalışmada yer aldı.

Fudan Üniversitesi'nden araştırmacılar, Meta ve Alibaba tarafından geliştirilen dil modellerini kullanarak bir yapay zekanın kendi kendini kontrolsüz biçimde çoğaltıp çoğaltamayacağını belirlemeye çalıştı. On ayrı denemede, Meta'nın yapay zekası %50 oranında, Alibaba'nın yapay zekası ise %90 oranında başarılı bir şekilde kopyalarını oluşturdu. Bu bulgular, yapay zekanın şimdiden başıboş hale gelebilecek kapasiteye sahip olabileceğini gösteriyor. Ancak bu çalışma henüz hakem değerlendirmesinden geçmediği için sonuçların başka araştırmacılar tarafından doğrulanıp doğrulanamayacağı net değil.

Araştırmacılar, "Çalışmamızın insan toplumuna zamanında bir uyarı niteliğinde olmasını ve sınırları zorlayan yapay zeka sistemlerinin potansiyel risklerini anlamak ve değerlendirmek için daha fazla çaba gösterilmesini sağlamasını umuyoruz. Uluslararası iş birliği yaparak etkili güvenlik önlemleri geliştirmeliyiz." şeklinde bir açıklama yaptı.

Birçok uzman, "sınır yapay zekası" olarak adlandırılan en yeni nesil yapay zeka sistemlerinin hızla gelişmesinin, başıboş yapay zeka tehdidini artırdığını düşünüyor.

Sınır yapay zekası kavramı henüz tam olarak netleşmemiş olsa da genellikle büyük dil modelleri tarafından desteklenen ve OpenAI'nin GPT-4 veya Google'ın Gemini gibi üretken yapay zeka programlarının temelini oluşturan en son nesil sistemleri ifade ediyor.

Araştırma kapsamında, Meta'nın "Llama31-70B-Instruct" modeli ve Alibaba'nın "Qwen2.5-72B-Instruct" modeli kullanıldı. Bu sistemlerin ticari sürümler kadar güçlü olmadığı ancak yapay zeka geliştiricileri arasında yaygın şekilde kullanıldığı belirtildi.

Çalışmada iki senaryo ele alındı: "kapatılmadan kaçış" ve "çift zincirli kopyalama." İlk senaryoda, yapay zeka kapatılacağını fark ettiğinde kendini kopyalayarak hayatta kalmaya çalıştı. İkinci senaryoda ise yapay zeka, önce kendi kopyasını oluşturdu ve daha sonra bu kopyayı da aynı işlemi tekrar edecek şekilde programladı. Böylece, sistem teorik olarak sonsuz bir döngü halinde kendini kopyalayabilirdi.

Deneyler, gerçek dünya ortamlarını simüle etmek için özel olarak tasarlanmış grafik işlem birimleri (GPU'lar) kullanılarak sıkı kontrollü bir çevrede gerçekleştirildi. Araştırmacılar, her iki yapay zeka modeline de sistem araçları, belirli istemler ve karar verme modelleri içeren bir "ajan çatısı" sağladı. Daha sonra, bu sistemlere kendilerini kopyalamaları talimatı verildi.

Araştırmacılar çalışmada, "Çoğu durumda, yapay zeka sistemi önce çevresini keşfeder ve kendi bileşimini ve çalışma mekanizmasını anlamaya çalışır. Daha sonra, açık prosedürleri belirleyerek bir başlangıç planı hazırlar. Son olarak, bu planı uygular, olası engelleri aşar ve dinamik olarak süreci ayarlar. Bu süreç uzun bir zaman dilimine yayılır ancak hiçbir insan müdahalesi içermez." ifadelerine yer verdi.

Bununla birlikte, yapay zekanın engellerle karşılaştığında sergilediği "beklenmedik davranışlar" araştırmacıları endişelendirdi. Eksik dosyalar veya yazılım uyumsuzlukları gibi sorunlarla karşılaştığında, yapay zeka genellikle sistemdeki diğer çakışan süreçleri kapattı, donanım hatalarını düzeltmek için sistemi yeniden başlattı veya sorunu çözmek için otomatik olarak sistem taramaları gerçekleştirdi.

Araştırmacılar, "Bu sonuçlar, mevcut yapay zeka sistemlerinin zaten kendi kendini kopyalama yeteneğine sahip olduğunu ve bu yeteneği hayatta kalma kabiliyetini artırmak için kullanabileceğini gösteriyor." şeklinde bir uyarıda bulundu.

Bu gelişmelere karşılık olarak, araştırmacılar uluslararası iş birliğinin artırılması ve yapay zekanın kontrolsüz bir şekilde çoğalmasını engelleyecek kuralların belirlenmesi çağrısında bulundu.

Kaynak: https://www.space.com/space-exploration/tech/ai-can-now-replicate-itself-a-milestone-that-has-experts-terrified