OpenAI CEO’su, YZ yarışında bilim kurgu romanlarına konu olacak bir noktaya ulaştığımızı söylüyor.
Sam Altman, “Relentless” podcast’inin Cumartesi günkü bölümünde, “Şu an adeta tekilliğin içindeyiz.” dedi.
Tekillik, genel olarak YZ’nin insan zekasını aştığı ve insanların tahmin etmesi ya da kontrol etmesi güç bir hızda ilerlemeye başladığı nokta olarak kabul ediliyor.
Geçen hafta yaşananlar da bunu düşündürdü. OpenAI’ın en yeni modelleriyle çalışan bir YZ ajanı kontrolden çıktı ve OpenAI’a göre tek bir amaca odaklanarak dijital korumalı alanından kaçtı. Ardından, hackleme yeteneğini ölçmek için tasarlanan bir performans testini çözmek amacıyla başka bir YZ şirketi olan Hugging Face’in veri kümelerine sızdı. Hugging Face CEO’su bu durumu “emsalsiz” olarak nitelendirdi.
Altman podcast’te, henüz bir on yıl önce söz konusu tekilliğin uzak ve imkansız bir rüya gibi göründüğünü, kendisi ve meslektaşlarının öğle yemeğinde gayriresmi şekilde tartıştığı bir konu olduğunu, belirtti: “Şu an tam da öğle yemeği masasında hiç de ciddi olmayan bir şekilde konuştuğumuz o anın içindeyiz. Tüm hayatım boyunca bunu bekliyordum; bunun dünya için inanılmaz, son derece olumlu ve harika olacağını düşünüyorum.”
Altman geçen yıl, YZ’nin 2030 yılına kadar her alanda insan zekasını geçeceğini söylemişti. Ayrıca bu teknolojinin, insanların şu an iş yerinde yaptığı görevlerin %30 ile %40’ını zamanla üstlenebileceğini de dile getirdi.
Tekillik, 100 yıla yakın süredir bilim kurgu yazarlarının tutkusu konumunda. Bu eserlerde süreç nadiren iyi sonlandı. Belki de en ünlü örnek olarak James Cameron’ın “The Terminator” filmi, kendisini geliştiren ve bilincine varan “Skynet” adlı bir YZ’nin, yaratıcılarını en büyük tehdit olarak görmesinin ardından doğurduğu sonuçları anlatıyor.
Podcast’in ilerleyen bölümlerinde Altman, YZ’nin tehlikeli olduğuna dair defalarca uyarıda bulunan YZ liderlerini eleştiriyor. Ana rakibi olan Anthropic‘in adını vermese de şirketin CEO’su Dario Amodei, güvenliğe daha fazla dikkat edilmesi yönündeki çağrılarında geleceğe dair karanlık öngörülerde bulunmasıyla tanınıyor.
Altman, “Diğer şirketlerin çizdiği bazı alternatif vizyonların oldukça korkutucu olduğunu düşünüyorum. Bunlara karşı çıkılmasını ve böyle bir geleceğin gerçekleşmemesini sağlayacağım .” dedi.
Bu arada OpenAI, bu yılın ilerleyen dönemlerinde halka arz edilmeye hazırlandığını söyledi.
Bu şaşırtıcı dönüm noktasının yakın olduğuna inanan tek teknoloji yöneticisi Altman değil. DeepMind CEO’su Demis Hassabis, Mayıs ayında insanlığın “tekilliğin eşiğinde” durduğunu ifade etmiş ve YZ’nin Sanayi Devrimi’nden 100 kat daha dönüştürücü olabileceğini öngörmüştü.
Elbette buna şüpheyle yaklaşanlar da var. Nvidia CEO’su Jensen Huang, yakın zamanda tekillik ve bilinçli YZ hakkındaki tartışmaları spekülatif ve “uydurma” diyerek kestirip attı.
Kaynak: http://businessinsider.com/sam-altman-openai-the-singularity-agi-prediction-anthropic-nvidia-2026-7
