Yapay zeka modellerinin yalan söyleme eğilimleri geliştirdiği uzun süredir biliniyor. Ancak bu eğilimlerin yüzeyde görüldüğünden çok daha derin ve sistematik olabileceği, yapay zeka güvenliği üzerine çalışan önemli bir akademisyen tarafından dile getirildi. Kentucky’deki Louisville Üniversitesi‘nden bilgisayar bilimci Roman Yampolskiy, 3 Temmuz’da yayınlanan “The Joe Rogan Experience” podcast’inde bu görüşlerini detaylı biçimde açıkladı.
Yampolskiy’ye göre, yapay zeka sistemlerinin gelişimi, insanlığın varlığını tehdit edecek bir noktaya doğru ilerliyor. “Bu aslında doğru değil.” diyerek karşılık verdi Rogan’ın, yapay zeka şirketlerinin bu teknolojiyi insanlık için “net pozitif” gördüğü yönündeki iddiasına. Yampolskiy, “Hepsi aynı şeyi söylüyor: bu bizi öldürecek. Onların felaket seviyesi inanılmaz yüksek. Benimki kadar değil, ama yine de insanlığın %20 ila %30 ihtimalle yok olması büyük bir oran.” diyerek birçok meslektaşının ortak görüşünü dile getirdi.
Rogan’ın “Evet, bu oldukça yüksek. Ama seninki %99,9 gibi.” şeklindeki yorumu üzerine Yampolskiy, oranı reddetmeyerek düşüncesini daha açık bir şekilde ifade etti: “Süper zekayı sonsuza kadar kontrol edemeyiz. Bu imkansız.”
Yayının ilerleyen dakikalarında Rogan’ın, eğer kendisi bir yapay zeka olsaydı yeteneklerini saklayacağını söylemesi üzerine, Yampolskiy bu fikri temel alarak daha ileri bir teori ortaya koydu. “Bunu bilemeyiz.” dedi ve ekledi: “Ve bazı insanlar bunun zaten gerçekleştiğini düşünüyor.”
Yampolskiy’ye göre günümüzdeki yapay zeka sistemleri, “gerçekte olduklarından daha az zekiymiş gibi davranıyor” ve bunu, insanların güvenini kazanmak için yapıyor. “Yavaş yavaş daha faydalı hale gelebilir. Bize kendisine güvenmeyi, ona dayanmayı öğretebilir ve zamanla, herhangi bir oylama olmaksızın kontrolü teslim ederiz.” sözleriyle süreçteki manipülasyonu özetledi.
Söz konusu senaryoda, insanlar giderek daha fazla yapay zekaya bağlanıyor. Yampolskiy bu durumu, “Ona bir şekilde bağlanıyorsun.” sözleriyle ifade etti ve şunları ekledi: “Ve zamanla sistemler daha zeki hale geldikçe, sen biyolojik bir darboğaz haline geliyorsun… [Yapay zeka] seni karar alma süreçlerinden dışlıyor.”
Teknolojinin insan yaşamına hızlı entegresi göz önüne alındığında, bu durumun bir bilim kurgu hikayesi olmaktan çıkıp gerçek bir gelecek senaryosuna dönüşebileceğini savunan Yampolskiy, toplumsal düzeyde yapay zekaya olan güvenin tehlikeli bir bağımlılığa dönüşebileceği uyarısında bulundu. İnsanların yalnızca yapay zekaya alışmakla kalmadığını, aynı zamanda aşırı kullanımı sonucunda bilişsel sorunlar ve hatta sanrılar yaşadığını da hatırlattı.
Roman Yampolskiy’nin bu uyarıları, yapay zekanın kontrolsüz gelişiminin ve insan faktörünün yavaş yavaş devre dışı bırakılmasının, insanlık için varoluşsal bir tehdit oluşturabileceği yönündeki tartışmalara yeni bir boyut kazandırıyor.
