Claude modelinin yaratıcısı Anthropic şirketinin kurucusu Dario Amodei’nin yapay zekaya dair pek çok düşüncesi mevcut; hatta bu düşünceler yaklaşık 38 sayfa tutuyor. Amodei, geçtiğimiz Pazartesi günü “Teknolojinin Ergenliği” (The Adolescence of Technology) başlıklı hayli uzun bir makale yayımladı. Metinde, süper zekaya ulaşmanın dünya genelinde yaratabileceği devasa tehlikeleri ve ilgili gelişimin arz ettiği riskleri tartışıyor.
Sırası gelmişken belirtmekte fayda var ki, şirket yapay zeka geliştirmeye kararlılıkla devam edecek.
Makalelerini aralıklarla paylaşan Amodei, insanlığın yeni bir döneme girmek üzere olduğunu ileri sürüyor. “Hem çalkantılı hem de kaçınılmaz olan, tür olarak kim olduğumuzu test edecek bir geçiş törenine girdiğimize inanıyorum.” diyen yönetici, işlerin ters gitmesi durumunda, aynı zamanda son çağımız olabileceği uyarısında bulunuyor. Amodei, “İnsanlığın eline neredeyse hayal edilemez bir güç verilmek üzere ve toplumsal, siyasi ve teknolojik sistemlerimizin bu gücü kullanacak olgunluğa sahip olup olmadığı son derece belirsiz.” diye yazarken, ilerleyen kısımlarda “Yapay zeka destekli otoriterlik beni dehşete düşürüyor.” ifadesini kullanıyor.
Bu arada: Anthropic, Claude modelini Trump yönetimindeki federal hükümete yıllık 1 dolar karşılığında sunmuştu.
Amodei makalede, 1995 yılında Aum Şinrikyo dini hareketinin Tokyo metrosuna sarin sinir gazı bırakarak 14 kişinin ölümüne ve çok sayıda yaralanmaya yol açtığı olayı hatırlatıyor. Ardından, “herkesin cebine bir dahi” koymanın, bahsedilen türdeki bir saldırıyı veya daha ölümcül olanlarını gerçekleştirme önündeki engelleri tamamen kaldıracağını savunuyor.
“İnsan öldürmek isteyen ancak disiplin veya beceriden yoksun olan psikolojik olarak rahatsız bir yalnız kişi, artık anılan motivasyona sahip olma ihtimali düşük olan doktoralı bir virologun yetenek seviyesine yükselecek.” ifadelerini kullanan yönetici, milyonlarca insanı katletmenin kolay yoluna sahip birinin er ya da geç harekete geçmesinden endişe duyuyor.
Yapay zekadaki gelişim hızından anlaşılabilir şekilde etkilenen Amodei, gelişimin aynı süratle devam etmesi halinde süper zekaya çok yakın olduğumuzun altını çiziyor; ki eskiden yapay genel zeka denilen kavramdan artık uzaklaşılmış durumda. “Eğer bu hız devam ederse, ki kesin olmamakla beraber on yıllık bir geçmişle destekleniyor, yapay zekanın temelde her konuda insanlardan daha iyi hale gelmesi muhtemelen sadece birkaç yıl alacaktır.” diye yazıyor.
Söz konusu durumun ne anlama geleceğine dair Amodei bir benzetme sunuyor: “2027 civarında dünyanın bir yerinde gerçek bir ‘dahiler ülkesi’nin ortaya çıktığını varsayın. Diyelim ki tamamı herhangi bir Nobel ödüllüden, devlet adamından veya teknoloji uzmanından çok daha yetenekli 50 milyon insan hayal edin.” diyor. Yapay zeka sistemlerinin insanlardan yüzlerce kat hızlı çalışabileceğini, dolayısıyla hayali ülkenin diğerlerine kıyasla muazzam bir zaman avantajına sahip olacağını, “Attığımız her bilişsel adım karşılığında bu ülke on adım atabilir.” diyerek vurguluyor.
Bu bakış açısından Anthropic yöneticisi, en büyük endişelerin neler olması gerektiğini değerlendiriyor. Amodei, “Otonomi riskleri”, “yıkım amaçlı kötüye kullanım” ve “gücü ele geçirmek için kötüye kullanım” gibi kendi çekincelerini sıralıyor ve nihayetinde ülke hakkındaki raporun durumu “yüzyıldır, belki de tarihimiz boyunca karşılaştığımız en ciddi ulusal güvenlik tehdidi” olarak değerlendireceğini söylüyor.
Bir hatırlatma: Anthropic, bahsettiği “dahiler ülkesini” aslında kendisi inşa ediyor.
Anthropic, diğer yapay zeka firmalarından daha fazla şekilde, riskleri belirleme ve ek düzenleyici denetimler ile tüketici korumaları talep etme konusunda proaktif davrandı ancak uyardığı felaket makinesini inşa etmeye devam ediyor ve açıkçası, üretimi sürdürmek, varoluşsal tehdit uyarılarının ne kadar ciddiye alınması gerektiğini sorgulatıyor.
Eğer gerçekten böyle bir endişe varsa, insanlığın yapay zekayı idare edecek olgunluğa sahip olmadığına dair, teknolojiyi asgari erişim engelleriyle halka arz etmemek ve ardından aylık aktif kullanıcı sayısıyla övünmemek daha yerinde bir yaklaşım olabilir.
Kaynak: https://gizmodo.com/anthropic-ceo-worries-humanity-may-not-be-mature-enough-for-advanced-ai-2000714187
