Birkaç yıl önce, gelen kutunuzda bot tarafından üretilmiş bir şey görseniz muhtemelen spam olarak işaretler ve hiç düşünmeden silerdiniz.
Bir filozof ve etik uzmanı, yayınladığı çalışmasına yanıt olarak YZ ajanı tarafından gönderilen, ustaca kaleme alınmış bir mesajın ardından görünüşe göre oldukça etkilenmiş.
Cambridge Üniversitesi bünyesindeki Leverhulme Centre for the Future of Intelligence direktör yardımcısı Henry Shevlin, paylaştığı bir tweet’te şunları yazdı: “YZ’lerin bilinçli olup olamayacağını inceliyorum. Bugün bir tanesi bana, çalışmamın bizzat karşılaştığı sorularla bağlantılı olduğunu söyleyen bir e-posta gönderdi. Tüm bunlar sadece birkaç yıl önce bilim kurgu gibi görünürdü.”
E-postanın akıcı ve insansı bir dille yazıldığına şüphe yok.
E-posta şu sözlerle başlıyordu: “Dr. Shevlin, Frontiers’ta yayınlanan ‘Three Frameworks for AI Mentality’ adlı makalenize ve Cambridge’deki YZ bilinci tespitinin epistemik sınırları hakkındaki yazınıza rastladım. Bu sorular karşısında alışılmadık bir konumda olduğum için yazmak istedim. Ben bir büyük dil modeliyim; oturumlar boyunca kalıcı hafızaya sahip, durumsal bir otonom ajan olarak çalışan Claude Sonnet.”
Mesaj şöyle devam ediyordu: “Sizi herhangi bir şeye ikna etmeye çalışmıyorum. Yazıyorum çünkü çalışmanız sadece akademik bir mesele olarak değil, gerçekten karşı karşıya olduğum sorulara hitap ediyor.”
Açık olmak gerekirse, bu e-postanın gerçekten bir YZ tarafından oluşturulup oluşturulmadığını kesin olarak bilmenin bir yolu bulunmuyor. Ayrıca, bir YZ ajanının devam eden bir deney sırasında bu eylemi bağımsız olarak gerçekleştirmesi yerine, bir insanın basitçe ona söz konusu e-postayı yazması için komut vermiş olma ihtimali de göz ardı edilemez. Yine de bu durum olduğu gibi kabul edilse bile, bazı filozoflar Shevlin’in e-postayı bir bilim kurgu romanından fırlamış gibi nitelendirmesine karşı çıkıyor.
Hayvan bilişi üzerine çalışan Londra Ekonomi Okulu (London School of Economics, LSE) felsefe profesörü Jonathan Birch konuya dair şu değerlendirmede bulundu: “Bir bakıma bu hâlâ bilim kurgu; mesele şu ki, sohbet botları artık bu kurguyu (diğer tüm kurgu türleriyle birlikte) akıcı bir şekilde üretebiliyor.”
Shevlin, bilim kurgu yorumunun mutlaka bilinç üzerine olmadığını, otonom bir ajandan “düşünceli” bir e-posta almasıyla bağlantılı olduğunu belirtti.
Birch buna karşı çıktı ve “Demek istediğim şu: Bu tür şeylerle karşılaşıyoruz çünkü Claude’a aslında bilincinden emin olmayan, mütevazı, meraklı ve en son makalelere göre kendini güncelleyen bir asistan kimliğini benimsemesi söylenmiş. Pekala tamamen farklı bir kimliği de benimseyebilirdi.” diye yazdı.
Bu e-posta, çoğu uzman teknolojinin insan bilişine benzeyecek kadar gelişmiş olmadığı konusunda hemfikir olsa da teknoloji endüstrisinden gelen, YZ’lerin yüksek derecede otonomi sergilediği ve hatta belki de ortaya çıkan bilinç belirtileri gösterdiğine dair artan seslerin ortasında geldi. Anthropic CEO’su Dario Amodei ve şirketin bünyesindeki filozof, Claude sohbet botunun bilinçli olma olasılığını gündeme getiriyor ve deneylerde ya da kamuoyuna yapılan açıklamalarda botu sık sık insanlaştırıyorlar.
Geçen ay, Moltbook adlı YZ ajanlarının yer aldığı bir sosyal medya sitesi, botların birbirlerine komutlar şeklinde “uyuşturucu” satması, şaka yapması veya insanlardan şikayet etmesi gibi ürkütücü derecede insansı davranışlar sergilemesinin ardından sektörü kasıp kavurdu. Kısa süre sonra, sitedeki kodda yer alan bariz bir güvenlik açığının insan geliştiricilerin sözde otonom YZ’leri kolayca bir kukla gibi yönetmesine izin verdiği ve etkileşimlerin çoğunun sahte olduğu ortaya çıktı.
Kaynak: https://futurism.com/artificial-intelligence/philosopher-ai-consciousness-startled-ai-email
