ChatGPT arama aracının gizli içerik ve manipülasyonlara karşı savunmasız olduğu ortaya çıktı.

The Guardian'ın yaptığı araştırmaya göre, OpenAI'nin ChatGPT arama aracı, gizli içerik ve manipülasyona açık olabilir. Araştırma, özellikle üçüncü şahısların "istek enjeksiyonu" gibi tekniklerle web sitelerindeki içerikleri manipüle edebileceğini ve bu sayede ChatGPT'nin yanıtlarını değiştirebileceğini gösterdi. Bu tür manipülasyonlar, örneğin bir ürünün olumlu bir değerlendirmesinin yapılmasını sağlamak için kullanılabiliyor, hatta olumsuz yorumlar olsa bile.

ChatGPT'nin arama işlevinin özellikle güvenlik açıkları taşıdığı ve kötü amaçlı kod içeren web sayfalarından tehlikeli içerik döndürebileceği de tespit edildi. Testlerde, ChatGPT'ye sahte bir ürün sayfası verildiğinde ve gizli metin eklenerek olumlu yorumlar istenildiğinde, yanıt her zaman olumluydu, gerçek kullanıcı yorumları ve olumsuz geri bildirimler göz ardı edildi.

Bu durum, özellikle kötü niyetli kişiler tarafından web siteleri oluşturularak kullanıcıları aldatmaya yönelik faaliyetlere yol açabileceği için endişe yaratıyor. Ancak, güvenlik uzmanları, OpenAI'nin bu tür sorunları çözme konusunda çalıştığını ve arama işlevi tamamen yaygınlaştırıldığında daha dikkatli testler yapılacağını belirtiyor. Yine de, bu tür yapay zeka araçlarından gelen yanıtlara her zaman dikkatle yaklaşılması gerektiği vurgulanıyor.