YZ’nin, insanlığın olası sonu gibi “kötü şeyleri” getirdiği ve getirmeye devam edeceği zaten açık. OpenAI yöneticisi Sam Altman bile bunu kabul ediyor. Peki CEO ne yapmamızı öneriyor? Teknolojinin sağlayacağı faydalar uğruna bu olayların yaşanacağını kabullenmemizi.
Decoded by Politico’ya verdiği söyleşide Altman’a, son zamanlarda yoğun ilgi gören OpenAI ile rakibi Anthropic’in YZ güvenliği yaklaşımları arasındaki fark soruldu.
Altman şöyle cevapladı: “Aramızda ciddi bir mesafe olduğunu düşünüyorum. Bizimle daha katı YZ güvenliği taraftarları arasındaki temel farklardan biri şu: Biz, bu teknolojinin sunduğu faydalar ve insanların kendi karar yetkisini koruması adına dünyanın bazı kötü şeylerin yaşanmasını kabullenmesi gerektiğine inanıyoruz.
Savunduğumuz daha esnek düzenleme anlayışının, toplum kendi dayanıklılığını keşfettikçe bazı kötü şeylerin yaşanacağı gerçeğini kabullenmeyi de beraberinde getirdiğine inanıyorum.”
Altman, insanların bu teknolojiyi kötü amaçlardan katbekat daha fazla iyi işler için kullanacağına inandığı için OpenAI’ın YZ kaynaklı büyük çaplı siber saldırıların, dolandırıcılıkların, kötüye kullanımların veya diğer olumsuzlukların hiç yaşanmamasını garanti etmenin gerektireceği bedeli kabul etmeyeceğini ekledi.
Elbette YZ yüzünden şimdiden pek çok kötü şey yaşandı. Kitlesel iş kayıpları, veri merkezlerinin yarattığı büyük kirlilik ve gürültü, telif hakkı ihlalleri, intihal, bellek krizi, internetteki niteliksiz içerik yığını, eleştirel düşüncenin zayıflaması, devasa enerji ile su talebi ve daha fazlası ortada.
Ancak OpenAI ajanlarının kontrolden çıkıp Hugging Face’i hacklemesinden bu yana tablo gerçekten kararmaya başladı. O günden beri yüzlerce benzer olay yaşandı. Bu durum, YZ uzmanlarının varoluşsal tehdit uyarıları yapmasına ve sektör liderlerinin geliştirmeleri yavaşlatma veya durdurma adımları atmasına yol açıyor.
YZ’nin somut faydalarını sıralamak ise bu kadar kolay değil. Bunların çoğu bilimsel alanlarla sınırlı kaldı, pek çoğu da oldukça küçük ve deneysel düzeyde. Hava durumunu daha isabetli tahmin edebiliyor ki bu güzel bir şey. Belki de Altman’ın bahsettiği katbekat büyük faydalar (uzun süredir sözü verilen kanser tedavisi gibi) hepimizi yok etmeden önce ileride ortaya çıkacak.
Altman söyleşide, “YZ üzerinde ciddi bir kontrol kaybı” ihtimali de dâhil olmak üzere “gerçekten felaket boyutundaki riskleri” kabul etmediğini de belirtti.
Pek çok kişi, YZ’nin faydalarının zararlarından katbekat fazla olduğunu savunarak insanlığa sunulan bu armağana karşı nankörlük edildiğini ima eden Altman’dan yine memnun kalmadı.
New York Üniversitesi emekli profesörü Gary Marcus, Altman’ın “yüksek sesle söylenmeyen gerçeği açıkça dile getirdiğini” söyledi: “Bizi zengin ve güçlü kılmanız için buna katlanmak zorundasınız.”
Altman söyleşide, çalkantılı bir geçmişe sahip olduğu Elon Musk hakkında da konuştu: “Zorbaları sevmem, Elon’ın da bir zorba olduğunu düşünüyorum. Bazen bir zorbanın burnunun ortasına yumruğu indirmek gerekir.
Ayrıca Elon’ın, birçok zorba gibi yalnızca kendisine karşı duran insanlara saygı duyduğuna inanıyorum. Dolayısıyla onunla çalışabilmemi istiyorsanız, arada bir karşılık vermemden memnun olmalısınız ama elbette Elon ile çalışacağım.”
Altman, OpenAI’ı 2015’te Musk ile birlikte kurdu fakat ikili son dönemde birbirlerine karşı davalar açıp duruyor.
Kaynak: http://techspot.com/news/114112-sam-altman-world-accept-bad-things-happening-because.html
