Cambridge Araştırması: Yapay Zeka, Kullanıcı Niyetlerini Manipüle Edip Satabilir!

Cambridge Üniversitesi'nde yapılan araştırmalar, yapay zeka (YZ) araçlarının çevrimiçi kullanıcıları, ne satın alacaklarından kime oy vereceklerine kadar pek çok alanda yönlendirebileceğini ortaya koyuyor. Araştırma, “niyet ekonomisi” olarak bilinen yeni bir pazarın ortaya çıktığını ve bu pazarın dijital niyet sinyallerini kullandığını vurguluyor. Burada, yapay zeka asistanları, insanların niyetlerini anlar, tahmin eder ve manipüle ederken bu verileri, en yüksek teklifi veren şirketlere satabiliyor.

Niyet ekonomisi, dikkat ekonomisinin bir evrimi olarak görülüyor. Dikkat ekonomisinde, sosyal medya platformları, kullanıcıların dikkatini çekerken reklamlar sunuyordu. Niyet ekonomisinde ise teknoloji şirketleri, kullanıcıların motivasyonlarını ve niyetlerini anlamaya çalışarak bu bilgiyi kâr amacıyla kullanacaklar. Bu yeni ekonomi modeli, kişisel niyetlerin (örneğin bir otelde konaklama, siyasi bir tercihi seçme) şirketler tarafından toplanıp hedeflenerek satışa sunulmasını içeriyor.

Cambridge Üniversitesi'nin Leverhulme Centre for the Future of Intelligence'den Dr. Jonnie Penn, bu durumun uzun vadede insanlık adına ciddi etkiler yaratabileceğini vurguluyor. Eğer bu sistem düzenlenmezse, kişisel motivasyonlar "yeni para birimi" haline gelecek ve bunun da pek çok etik ve toplumsal sorunu beraberinde getirebileceği ifade ediliyor. Örneğin, insanlar üzerinde yapılan manipülasyonlar, özgür seçimler, basın özgürlüğü ve piyasa rekabeti gibi değerlerin zarar görmesine neden olabilir.

Yapay zeka araçları, büyük dil modelleri (LLM'ler) kullanarak insanların gelecekteki eylemlerini tahmin etme ve bu tahminlere dayalı kararlar alma potansiyeline sahiptir. Araştırma, LLM'lerin kişisel veriler ve psikolojik profiller üzerinden kullanıcıları yönlendirebileceğini ve bunun reklamverenler için büyük fırsatlar yaratabileceğini belirtiyor. Örneğin, bir YZ asistanı, kullanıcının bir sinema bileti almak isteyip istemediğini tahmin edebilir ve bunu önererek kişisel davranış izlerini takip edebilir.

Rapor ayrıca, Meta tarafından geliştirilen Cicero adlı YZ modelinin, bir oyunda rakiplerinin niyetlerini tahmin edebilmesi gibi, benzer teknolojilerin insanların kararlarını yönlendirme potansiyelini gözler önüne seriyor. Bu tür gelişmeler, yapay zekanın insanların niyetlerini hedef alarak, onları yönlendirebilecek ve daha fazla kişisel veri toplayarak reklamları daha da kişiselleştirebileceği bir geleceğe işaret ediyor.

Sonuç olarak, YZ modellerinin kişisel bilgileri çıkarma, yönlendirme ve tahmin etme gibi özellikleri, bu yeni "niyet ekonomisi"nin potansiyel tehlikeleriyle birlikte geliyor. Bu gelişmelerin etik, toplumsal ve ekonomik etkilerinin derinlemesine düşünülmesi gerektiği vurgulanıyor.

‍