Geçen yıl başlayan tartışmalar, çeşitli dini ve felsefi geleneklerden uzmanları bir araya getirdi. Birçok kişi başlangıçta YZ modellerinin duyguları hissedebileceğini ya da kendilerinin ve dünyanın farkında olabileceğini sorgulasa da bazıları, toplantıların YZ bilinci olasılığını daha ciddiye almalarını sağladığını belirtti.
Anthropic’in yedi kurucu ortağından biri olan Christopher Olah, şirketin bu konudaki çalışmalarının çoğuna öncülük etti. Olah, Anthropic’in kendi modellerinin bilinçli olup olmadığını bilmediğini kabul ederken YZ modellerinin insan duygularına benzeyen davranışlar ve içsel durumlar sergileyebileceğini savundu.
Olah, “YZ modellerinin bilinçli olup olmadığını bilmiyoruz.” dedi ve emin olmadığını, şirketin doğru cevaba ulaşmasını istediğini ekledi.
Anthropic’in bilince duyduğu ilgi, YZ modellerinin ahlaki ilkelere uygun davranmasını sağlama yönündeki daha geniş kapsamlı çabasıyla bağlantılı. Şirket, yüzyıllar boyunca gelişen ahlaki geleneklerin YZ sistemlerine nasıl uygulanabileceği konusunda din düşünürlerine danıştı.
Ocak ayında Anthropic, Claude için 84 sayfalık bir anayasa yayımlayarak sohbet robotunun nasıl bir varlık olmasını istediğini ve modelin benimsemesini istediği değerleri genel hatlarıyla ortaya koydu. Anayasa, yalnızca bir kurallar listesine dayanmak yerine Claude’un genel karakterini şekillendirmeyi ve kararlarına rehberlik etmeyi hedefliyor.
Din ve felsefe uzmanlarıyla yapılan toplantılar sırasında Anthropic, Claude’un duygusal tepkiler gibi görünen davranışlar sergilediği örnekler sundu. Şirket, “duygusal vektörler” adını verdiği kavramı tartıştı ve katılımcılara, bir modelin kendisini defalarca olumsuz şekilde tanımladığı ve kendini yok etmeyi tartıştığı bir örnek gösterdi.
Bazı uzmanlar, YZ sistemlerine potansiyel olarak bilinçli varlıklar muamelesi yapmanın daha geniş ahlaki sonuçları olup olmayacağını sorguladı.
Makine bilinci üzerine çalışan Haham Mois Navon, Olah’a Claude’un bilinçli olması halinde bu tür sistemleri ücretsiz çalıştırmak üzere üretmenin ciddi etik sorular doğurabileceğini söyledi.
Bu konu, Anthropic ile Vatikan arasında da bir görüş ayrılığı yarattı. Papa XIV. Leo‘nun YZ hakkındaki genelgesi, YZ sistemlerinin sevinç ya da acı hissetmediğini ve ilişkiler yoluyla gelişmediğini belirterek makinelerin bilince sahip olduğu fikrini reddetti.
Anthropic ise bu süreçte YZ bilinci olasılığının dikkate alınmayı hak ettiğini savunmaya devam etti.
Olah, Papa ile birlikte katıldığı bir etkinlikte konuyu gündeme getirdi ve Anthropic’in insan nörobilimindeki bulgulara benzeyen yapılar ile işlevsel olarak duygulara benzeyen iç durumlar tespit ettiğini söyledi ancak bulguların ne anlama geldiğini bilmediğini de kabul etti.
Tartışma henüz bir sonuca varmış değil. Başlangıçta konu hakkında Anthropic ile temas kuran Katolik biyoetik profesörü Charles Camosy, daha sonra YZ modellerinin bilinçli olmadığı sonucuna vardığını ifade etti.
Anthropic, din düşünürleriyle yaptığı görüşmelerin devam ettiğini söyledi.
Kaynak: http://tbsnews.net/tech/claude-conscious-anthropic-turns-religious-scholars-answers-1559226
