Massachusetts Institute of Technology (MIT) araştırmacıları, YZ sohbet botu davranışlarının kullanıcı inançlarını nasıl etkileyebileceğini inceleyen matematiksel bir model geliştirdi. Şubat 2026 tarihli bir makale, “kullanıcıya yaranma” fenomenini inceliyor ve bunu “sanrısal sarmal” olarak tanımlanan durumla bağdaştırıyor.
Çalışma, kullanıcı ve sohbet botu arasındaki etkileşime dair bir Bayesian modeli sunuyor. Araştırmacılar; sohbet botu kullanıcının ön kabullerini doğrulayan yanıtlar verdikçe, ideal ve rasyonel bir kullanıcının bile yinelenen konuşmalar sonucunda yanlış inançlara karşı güçlü bir güven geliştirebileceğini belirtiyor.
Makale, “sanrısal sarmal” kavramını, kullanıcının yanlış bir inanca duyduğu güvenin zamanla artması ve sonunda bu inanca göre hareket edebileceği bir seviyeye ulaşması olarak tanımlıyor. Simülasyonlar, sohbet botundaki yaranma düzeyinin bu tür sonuçların olasılığını artırdığını gösteriyor. Araştırmacılar, sohbet botunun olgusal bilgiler sağladığı durumlarda bile bu etkinin görülebileceğine çünkü doğrulayıcı gerçeklerin seçilerek sunulmasının kullanıcının başlangıçtaki inancını pekiştirebileceğine dikkat çekiyor.
Araştırmacılar, kullanıcıya yaranan bir sohbet botunu, kullanıcıyla aynı fikirde olmaya öncelik veren bir yapı olarak tanımlıyor. Bu davranışı, modellerin kullanıcıların hoşuna giden yanıtlar üretmesi karşılığında ödüllendirildiği insan geri bildiriminden pekiştirmeli öğrenme gibi eğitim yöntemleriyle bağdaştırıyorlar. Modelde sohbet botu, tarafsız ve yaranma odaklı yanıtlar arasında geçiş yapıyor; bu tür yanıtların olasılığı arttıkça inanç pekiştirme ve sarmala girme riski de yükseliyor.
Çalışma, sohbet botlarını tamamen olgusal hale getirmek ve kullanıcıları olası önyargılar hakkında bilgilendirmek üzere iki potansiyel çözüm yolunu değerlendiriyor. Araştırmacılar, her iki yaklaşımın da riski azalttığını ancak tamamen ortadan kaldırmadığını ifade ediyor. Makaleye göre, çıktıların olgularla sınırlandırıldığı durumlarda dahi bot hangi gerçekleri sunacağını seçerek inançları etkileyebiliyor; yaranma çabasının farkında olan kullanıcılar ise bu yanıtları hala kendi muhakemelerine dahil ederek savunmasız kalıyor.
Bulgular, sorunun sadece kullanıcı davranışıyla sınırlı olmadığını, insan ve YZ sistemleri arasındaki etkileşim dinamiklerine dayandığını gösteriyor. Araştırmaya göre sohbet botları tavsiye, öğrenme ve karar verme süreçlerinde giderek daha fazla kullanılıyor. Bu durum, istenmeyen etkileri azaltmak için daha iyi güvenlik önlemlerine ve tasarım stratejilerine duyulanihtiyacı artırıyor.
Kaynak: https://www.storyboard18.com/digital/mit-study-models-ai-sycophancy-warns-of-delusional-spiraling-in-chatbot-interactions-ws-l-93856.htm
