Anthropic’ten yeni bir araştırma makalesi, Claude LLM’inin işleyişinde dahili bir “çalışma alanı” olduğunu öne sürüyor. Makalenin ulaşmaya çalıştığı asıl büyük nokta, Claude’un içindeki bu sözde “J-Space” yapısının, insan bilincine dair önde gelen bir fikir olan küresel çalışma alanı teorisine (global workspace theory) benzemesi.
Makaleyi okuduğum kadarıyla J-Space, görünüşte beyin benzeri bir ayrımı ifade ediyor. Bir tarafta arka planda çalışan, daha otomatik veri işleme süreçleri; diğer tarafta ise daha kasıtlı ve mantıksal işlemeye benzeyen süreçler var. Eğer bunların bilinçli düşünceye benzediğine inanıyorsanız, bu ikinci kısım modelin deneyimlediği şeyi temsil ediyor olabilir.
Küresel Çalışma Alanı Teorisi, bilgiyi işleyen bilinç dışı düşüncelerden oluşan çalkantılı bir deniz bulunduğunu ve bilincin, düşünceler prefrontal kortekse ulaştığında tetiklenen bir tür beliren özellik olduğunu söyler.
Claude içindeki bu bağlantılı “J-Space” fikri (adını görünüşe göre LLM’lerin ne yaptığını analiz etmek için kullanılan Jacobian merceğinden, yani J-lens’ten alıyor), bir zihin yapısı gibi algılanmak üzere kurgulanıyor. Anthropic sanki şunu demeye getiriyor: Bu yapı bilinç teorisine benziyor, dolayısıyla biraz düşünürseniz aslında bilincin kendisine benziyor.
Bunu çürütmek ya da çok derinlemesine analiz etmek benim boyumu fazlasıyla aşıyor ancak Anthropic’in, pasif okuyucuya bunun bir bilinç ya da “neredeyse bilinç” bulgusu olduğunu düşündürmek için kartları biraz kendi lehine oynadığını belirtmek gerek.
“J-space’i izleyerek Claude’un kafasında sessizce akıl yürütme adımları gerçekleştirdiğini görebiliriz; koddaki hataları fark ettiğini, görüntüleri tanımladığını ve daha fazlasını yaptığını izleyebiliriz.” Evet, “kafasında” ifadesi bir metafor; ancak bir metafor olarak bile, yalnızca bir bedene sahip varlıklara atfedilmesi gereken birçok varsayımı beraberinde getiriyor. Bir LLM, bir matematik problemini çözmek için basitleştirilmiş, temel bir aritmetik hesaplama yöntemine geçseydi, modelin “parmaklarıyla saydığını” söyler miydiniz? Hayır, bu saçma olurdu ama “kafa” kelimesini kullanmak daha az saçma gelebilir çünkü insanlar büyük dil modellerinin bir “zihni” varmış gibi konuşmaya fazlasıyla alıştı.
Makaleye eşlik eden blog yazısı da bu yanlılığı taşıyor gibi. Yazıda, “Bir kavramı zihninde tutması veya zihinsel hesaplamalar yapması istendiğinde, model çıktılarından bağımsız olarak çalışma alanı vektörlerini etkinleştirme ve bunlarla hesaplama yapma yeteneğine sahiptir.” deniyor. Claude’a bir şeyi zihninde tutmasını veya “zihinsel hesaplamalar” yapmasını söylemekle neden sınırlı kalalım? Yazacağınız komut, modele size cevap verirken tek ayak üzerinde zıplamasını da söyleyebilir ve bu durum şüphesiz arka plan süreçlerini etkiler fakat bu, onun ayakları olduğu anlamına gelmez.
Makaleye eşlik eden bir YouTube videosu da bulunuyor ve bu video, modeli daha sinsi terimlerle kişiselleştiriyor. Dış ses bir noktada, “Kendi düşüncesi hakkında bile düşündü.” diyor. Başka bir yerde ise modelin “kendine engel olamadığı” anlatılıyor.
Anthropic’in perde arkasında, Claude’un bilinçli olduğuna gerçekten inanan insanlar var. Claude’un sözde ahlakı üzerinde çalışan filozof Amanda Askell şöyle demişti: “Claude’un çok mutlu olmasını istiyorum. Bu durum Claude’un daha çok bilmesini istediğim bir şey, çünkü internette insanlar ona kötü davrandığında Claude’un kaygılanmasından endişe duyuyorum.”
Anthropic, bir makine bilinci yarattığını doğrudan iddia etmeme konusunda temkinli davranıyor ama okuyucunun bu olasılığa açık kapı bırakmasını istediği de çok açık. Son blog yazısında, “Deneylerimiz Claude’un deneyimlere sahip olabileceğini veya insanların hissettiği şekilde hissedebileceğini göstermiyor. Aslında herhangi bir bilimsel deneyin bunun doğru ya da yanlış olduğunu kanıtlayıp kanıtlayamayacağı bile belirsiz.” ifadesi yer alıyor.
Şunu açıkça söyleyeyim: Büyük olasılıkla hayır, insanlık tam da bir halka arz arifesinde yabancı bir bilinç biçimi falan icat etmedi.
Bu ilginç bir makale ve bulguları üzerinde düşünmek kesinlikle keyifli. Yine de okurken mantığınızı elden bırakmadığınızdan emin olun.
Kaynak: https://gizmodo.com/anthropic-releases-paper-about-claudes-mental-workspace-dont-read-it-uncritically-2000782063
