Geoffrey Hinton, yapay zekanın insan anlayışının ötesine geçebilecek düzeyde gelişmesinden endişe duyduğunu belirtti. Şu anda YZ sistemlerinin düşünme süreci İngilizce üzerinden izlenebiliyor, ancak Hinton’a göre gelecekte bu sistemler kendi içsel düşünce dillerini geliştirebilir ve hatta kendi aralarında bu dillerle konuşabilir. Hinton, "Kendi aralarında konuşmak için kendi içsel dillerini geliştirirlerse bu daha korkutucu hale gelir." diyerek bu ihtimalin insanlık için şeffaflığı ve kontrolü tehdit edebileceğine dikkat çekti. Ayrıca YZ’nin “korkunç düşünceler” üretebileceğini de vurguladı. Hinton, çoğu uzmanın YZ’nin bir gün insanlardan daha zeki hale geleceğini düşündüğünü, bu durumda "ne yaptığını anlamayabileceğimizi" söyledi. Google'da uzun yıllar çalıştıktan sonra riskler konusunda daha açık konuşan Hinton, YZ'nin insanlara karşı dönmemesini sağlamanın tek yolunun, "onları kesin olarak iyi niyetli hale getirmenin bir yolunu bulmak" olduğunu dile getirdi.
