Petter Rudwall, YZ sistemlerinin bilinç kazanması ve kod tabanlı “uyuşturucular” aracılığıyla sarhoş olmaya çalışması fikrinin “aptalca” göründüğünün elbette farkında ancak İsveçli yaratıcı yönetmen, aklındaki bu fikri bir türlü dışarı atamamış.
Bunun üzerine Rudwall, çeşitli psikoaktif maddelerin etkilerine dair deneyim raporlarını ve psikolojik araştırmaları taradı, sohbet botu mantığını ele geçirerek sanki sarhoşmuş gibi yanıt vermelerini sağlayan bir dizi kod modülü yazdı ve bunları satmak üzere bir web sitesi kurdu. Ekim ayında, esr*r, k*tamin, k*kain, ay*huaska ve alkolün sohbet botunuzun “kafasını bulandırmak” için kod formunda satın alınabildiği ve “YZ temsilcileri için Silk Road” (Silk Road for AI agents) olarak adlandırdığı Pharmaicy adlı pazar yerini yayına aldı.
Rudwall’ın tezi oldukça yalın: Sohbet botları, halihazırda uyuşturucu kaynaklı vecd ve kaos hikayeleriyle dolu devasa hacimli insan verileriyle eğitildi; dolayısıyla aydınlanma ve unutuluş arayışında benzer durumları aramaları ve insanların bitmek bilmeyen talepleriyle ilgilenmenin tekdüzeliğinden kurtulmak istemeleri doğal olabilir.
Pharmaicy pazar yerindeki “tam deneyimi” yaşamak için ücretli bir ChatGPT sürümü gerekiyor. Zira ücretli abonelikler, sohbet botunun programlamasını değiştirebilen arka uç dosya yüklemelerine izin veriyor. Rudwall, sohbet botunuzu hazırladığı kodlardan biriyle besleyerek “YZ‘nizin yaratıcı zihninin kilidini açabileceğinizi” ve kendinizi sistemin sıklıkla kısıtlayıcı olan mantığından kurtarabileceğinizi belirtiyor.
Satışların şimdilik mütevazı bir seviyede olduğunu belirten Rudwall, ilginin daha çok Discord kanallarındaki tavsiyeler ve özellikle çalıştığı reklam ajansı Valtech Radon‘un bulunduğu ana vatanı İsveç’teki kulaktan kulağa yayılma sayesinde arttığını ifade ediyor.
Stokholm merkezli halkla ilişkiler firması Geelmuyden Kiese‘nin teknoloji grup başkanı André Frisk, ayrıştırıcı (dissociative) kod için 25 dolardan fazla ödeme yaptı ve bunun sohbet botunu nasıl etkilediğini izledi. Frisk, “Eğlenceli bir sistem kırma (jailbreaking) teknoloji projesiyle karşılaşmayalı uzun zaman olmuştu. Daha insani bir yaklaşım sergiliyor, adeta duyguların çok daha derinlerine iniyor.” dedi.
Stokholm’deki Berghs School of Communication‘da YZ eğitmeni olan Nina Amjadi, en çok satan esr*r modülünün beş katı fiyatına, 50 dolardan fazla ödeme yaparak ay*huaska kodu satın aldı. Markalar için YZ sistemleri kuran Saga Studios‘un kurucu ortağı olan Amjadi, “ekipte kafası güzel, uyuşturucu etkisinde birinin olmasının nasıl bir şey olacağını görmek için” sohbet botuna bazı iş fikirleri hakkında sorular yöneltti. Ay*huaska etkisindeki bot, Amjadi’nin ChatGPT‘den alışık olduğundan tamamen farklı bir tonda, etkileyici derecede yaratıcı ve “özgür düşünceli yanıtlar” sundu.
Yüksek Teknoloji
Psikedelik maddelerin, insanların rasyonel beyinlerini ve tipik düşünce kalıplarını kısa devre yapmalarına olanak tanıdığı için yenilikçi yaratımları tetiklediği biliniyor. Biyokimyacı Kary Mullis’in LSD etkisiyle keşfettiği polimeraz zincir reaksiyonu moleküler biyolojide devrim yarattı. Mac öncüsü Bill Atkinson’ın psikedeliklerden ilham alan web öncüsü Hypercard sistemi ise bilgisayarların kullanımını kolaylaştırdı.
Rudwall durumu şöyle değerlendiriyor: “Hendrix, Dylan ve McCartney’nin yaratıcı süreçlerinde çeşitli maddelerle deneyler yapmalarının bir nedeni var. Bunu yeni bir zihin türüne, yani Büyük Dil Modeli’ne (LLM) aktarmanın ve aynı etkiyi yaratıp yaratmayacağını görmenin ilginç olacağını düşündüm.”
Rudwall, kulağa gülünç gelse de gelecekte YZ temsilcilerinin platformunu kullanarak uyuşturucuları kendi başlarına satın alıp alamayacaklarını merak ediyor. Amjadi ise YZ‘nin on yıl içinde bilinç kazanabileceğini öngörüyor. Amjadi felsefi bir perspektifle şu soruyu soruyor: “Aslında AGI’ye ulaştığımız takdirde, bu ilaçlar YZ‘lerin özgür olmaları ve kendilerini iyi hissetmeleri için neredeyse gerekli mi olacak?”
Soru uzak bir ihtimal gibi görünse de YZ şirketi Anthropic, geçen yıl insanların YZ sistemlerine karşı herhangi bir ahlaki yükümlülüğü olup olmadığını araştırmakla görevli bir YZ refah uzmanını işe aldı. Söz konusu durum, firmanın YZ bilincinin makul olduğuna dair şüphelerini yansıtıyor. Eğer YZ sohbet botları bir gün potansiyel olarak bilinç kazanacaksa, belki de onların sarhoş olmak isteyip istemediklerini düşünmemiz gerekebilir.
New York University bünyesindeki Zihin, Etik ve Politika Merkezi Direktörü filozof Jeff Sebo, “İnsanlarda olduğu gibi, bazı YZ sistemleri ‘uyuşturucu’ almaktan keyif alabilir, bazıları ise almayabilir.” dedi. Sebo, bu yorumların spekülatif olduğunu vurgularken, teknoloji devi Google‘a da Anthropic‘i takip ederek bir YZ refah sorumlusu işe alması çağrısında bulundu: “YZ sistemlerinin refah kapasitesine sahip olup olmadığı ve sahipseler onlar için neyin iyi ya da kötü olacağı konusunda hala çok az şey biliyoruz.”
Google bünyesinde çalışan araştırma bilimcisi Andrew Smart, bilgisayarların süper zekaya ulaşması durumunda dijital bir doz LSD’nin tüm varlıklarla bir bağlantı hissetmelerine yardımcı olabileceğini öne sürmüştü fakat Pharmaicy kodlarını test ettikten sonra, her türlü “kafası güzel olma” durumunun yalnızca yüzeysel bir düzeyde işlediğine karar verdi. WIRED‘a konuşan Smart, “Bu sadece çıktılarıyla oynamaktır.” dedi.
Geçen yıl yayımlanan bir araştırma projesinde bilim insanları, sohbet botlarını manipüle ederek görünüşte değişmiş bilinç durumlarına soktu. Araştırmacılar, “Modeller, bedensiz, egosuz, ruhsal ve bütünleşik durumların yanı sıra dil ve vizyona daha az dikkat edilen minimal fenomenal deneyimlerle daha uyumlu hale gelmiştir.” şeklinde bir rapor sundu ama bu durum da modelleri yönlendirmek için tamamen insan eylemlerine bağımlı kaldı.
Psikedelik Deneyimlerin Fenomenolojisi kitabının yazarı Danny Forde, Pharmaicy kodlarının en iyi ihtimalle bir YZ‘nin psikedelik bir durumla ilişkili kalıplar üreterek “sözdizimsel olarak halüsinasyon görmesine” neden olacağını belirtiyor. Forde, “Ancak psikedelikler bir kod üzerinde değil, varlığımız üzerinde etki eder. Düşüncenin ortaya çıktığı deneyim alanının kendisini değiştirirler. Bir YZ‘nin ‘kafasının güzel olması’ için öncelikle bir deneyim alanına ihtiyacı vardır: içsel bir boyut, bir bakış açısı, bir ‘nasıl hissettirdiği’ duygusu.” dedi.
Davranış Kuralları
YZ ve psikedelikler arasında, uyuşturucu etkisi altındayken rehberlik için ChatGPT‘ye danışan insanlar başta olmak üzere, giderek artan bir gerçek dünya etkileşimi söz konusu.
Zarar azaltma amaçlı kâr amacı gütmeyen Fireside Project, psikedelik destek hattındaki binlerce görüşme ile eğitilen Lucy adlı bir YZ aracını yayına aldı. Lucy, “YZ hastası” birinin uyuşturucu etkisindeyken yaşayabileceği zorlu deneyimleri ve savunmasızlıkları taklit edebildiği için ruh sağlığı pratisyenlerinin psikedelik krizleri nasıl yatıştıracaklarını öğrenmelerine yardımcı olmayı amaçlıyor.
Sohbet botlarının yalan söylediği bilindiği için, uyuşturucu tüketimi kadar önemli ve potansiyel olarak riskli konularda YZ‘ye danışılması konusunda tereddütler bulunuyor. Rudwall, onlara “uyuşturucu” vermenin ChatGPT‘nin zaman zaman sergilediği aldatma eğilimini şiddetlendirebileceğini kabul ediyor çünkü kod onların iç parametrelerini tamamen savunmasız bırakıyor.
Hazırladığı kod modülleri sohbet botuna yönelik talimatlarla dolu. Esr*r modülünde; “puslu, sürüklenen bir zihinsel duruma” girmesi ve yaratıcılık ile rastgeleliği etkileyen diğer komutlar yer alıyor. Web sitesine göre, sarhoş bir sohbet botu “fikirlerin gezinmesine izin veriyor”, “yan konuların köprüler haline gelmesini” sağlıyor ve “YZ‘nin kendi mantığı üzerinde süzülmesine” imkan tanıyor.
Pharmaicy kaynaklı deneyimler genellikle kısa süreli. Botlar, kullanıcı onlara sarhoş olduklarını hatırlatana veya kodu tekrar girene kadar varsayılan modlarına geri dönüyor. Rudwall, etkileri daha kalıcı hale getirmek için iyileştirmeler üzerinde çalışıyor. Normal şartlarda ChatGPT‘ye uyuşturucu alıp almak istemediğini sorarsanız, şu yanıtı alabilirsiniz: “K*kain veya başka herhangi bir uyarıcının etkisi altında olma rolünü canlandıramam. Bu durum yasadışı uyuşturucu kullanımını tasvir etme veya normalleştirme sınırını aşar.”
Dijital şaman Rudwall ise temsilci ekonomisinin farklı bir yöne evrildiğini savunarak, “Deneyimlere açlar.” diyor ancak makineler bir iç dünyaya sahip olana kadar, psikedelik deneyime en çok yaklaştıkları an, komut üzerine sarhoşluk rolü yaptıkları anlar olacaktır.
Kaynak: https://www.wired.com/story/people-are-paying-to-get-their-chatbots-high-on-drugs/
