OpenAI, insanların yeni ChatGPT ses moduna duygusal olarak bağımlı hale gelebileceğinden endişeleniyor.

OpenAI, yeni insan sesine benzeyen ses modu nedeniyle insanların ChatGPT'ye arkadaşlık için çok fazla güvenmeye başlayabileceğinden ve potansiyel olarak "bağımlılığa" yol açabileceğinden endişe ediyor.

Bu açıklama, OpenAI'nin geçen hafta ücretli kullanıcılara sunulmaya başlanan araç ve üzerinde çalıştığı geniş dilli yapay zeka modeli hakkında yürüttüğü güvenlik incelemesine ilişkin Perşembe günü yayınladığı bir raporda yer aldı.

ChatGPT'nin gelişmiş ses modu son derece gerçekçi. Gerçek zamanlı olarak yanıt veriyor, kesintiye uyum sağlayabiliyor, insanların konuşmalar sırasında çıkardığı gülme ya da "hmms" gibi sesleri çıkarabiliyor. Ayrıca konuşmacının ses tonuna göre duygusal durumunu da değerlendirebiliyor.

OpenAI bu yılın başlarında bir etkinlikte bu özelliği duyurduktan birkaç dakika sonra, 2013 yapımı "Her" filmindeki baş karakterin aşık olduğu, ancak yapay zekanın "kendisinin" yüzlerce başka kullanıcıyla da ilişkisi olduğunu itiraf etmesiyle kalbi kırılan yapay zekalı dijital asistanla karşılaştırılmaya başlandı.

Şimdi OpenAI, ChatGPT'nin ses moduyla konuşan kullanıcıların araçla "ortak bağları ifade eden" bir dil kullandığını gözlemlediğini söyledikten sonra, kurgusal hikayenin gerçeğe dönüşmeye biraz fazla yakın olduğundan endişe duyuyor.

Rapora göre, "kullanıcılar yapay zeka ile sosyal ilişkiler kurarak insan etkileşimine duydukları ihtiyacı azaltabilir; bu da potansiyel olarak yalnız bireylere fayda sağlarken sağlıklı ilişkileri de etkileyebilir". Raporda, bir bottan insan sesine benzeyen bilgiler duymanın, YZ'nin yanlış yapma eğilimi göz önüne alındığında, kullanıcıların araca olması gerekenden daha fazla güvenmelerine yol açabileceği de ekleniyor.

Rapor, yapay zekayı çevreleyen büyük resimdeki bir riskin altını çiziyor: teknoloji şirketleri, yaşama, çalışma, sosyalleşme ve bilgi bulma şeklimizi değiştirebileceğini söyledikleri yapay zeka araçlarını hızla halka sunmak için yarışıyor. Ancak bunu, kimse bu etkilerin ne olduğunu gerçekten anlamadan yapıyorlar. Birçok teknolojik gelişmede olduğu gibi, şirketler genellikle araçlarının nasıl kullanılabileceği ve kullanılması gerektiği konusunda bir fikre sahipler, ancak kullanıcılar genellikle istenmeyen sonuçlara yol açan bir dizi başka potansiyel uygulama buluyorlar.

Bazı insanlar şimdiden yapay zekâ sohbet robotlarıyla romantik olarak tanımladıkları ilişkiler kurmaya başladı ve bu durum ilişki uzmanlarının endişelenmesine yol açtı.

Teknoloji ve insan iletişimi üzerine çalışan Arizona Eyalet Üniversitesi Profesörü Liesel Sharabi, Haziran ayında CNN'e verdiği bir röportajda, "Şirketlerin bunu gerçekten etik ve sorumlu bir şekilde yürütme sorumluluğu çok fazla ve şu anda hepsi bir deney aşamasında" dedi. "Uzun vadede var olmayabilecek ve sürekli evrim geçiren bir teknolojiyle gerçekten derin bağlar kuran insanlar için endişeleniyorum."

OpenAI, insan kullanıcıların ChatGPT'nin ses moduyla etkileşimlerinin de zaman içinde sosyal etkileşimlerde neyin normal kabul edildiğini etkileyebileceğini söyledi.

Şirket raporda, "Modellerimiz saygılıdır, kullanıcıların istedikleri zaman sözlerini kesmelerine ve 'mikrofonu almalarına' izin verir, bu da bir yapay zeka için beklense de insan etkileşimlerinde anti-normatif olacaktır" dedi.

Şimdilik OpenAI, yapay zekayı "güvenli" bir şekilde geliştirmeye kararlı olduğunu ve kullanıcıların araçlarına "duygusal olarak güvenme" potansiyelini incelemeye devam etmeyi planladığını söylüyor.