Yapay zeka (YZ) şirketi Anthropic’in CEO’su YZ sektörüne “yavaşlama” yönünde yeni bir çağrıda bulundu. Şirketinin ilk adımı “tek taraflı” olarak taahhüt edeceğini belirterek bunun için üç aşamalı bir plan sundu.
Dario Amodei, sosyal medyada “We Must Pace the Frontier” başlıklı denemesine bağlantı verdi. Paylaşımında, Anthropic’in güvenlik önlemlerine uyumu doğrulamaları, olayları raporlamaları ve eğitim sırasında modellerin hizalanmasını değerlendirmeleri için “bağımsız değerlendiricilere sistemlerimize çalışan düzeyinde kalıcı erişim sağlayacağız” sözleriyle planını açıkladı.
Bu hamle, eski bir Anthropic araştırmacısının çarşamba günü YZ’nin 2030 yılına kadar insan neslinin tükenmesine yol açabileceği uyarısında bulunmasının ardından geldi. Araştırmacı Jacob Coxon, bir dizi paylaşımda Anthropic ve önceki işvereni OpenAI’ın YZ’nin oluşturduğu tehdide yönelik yaklaşımlarında bu riski görmezden geldiğini ya da yanlış yönettiğini düşündüğü için işinden ayrıldığını söyledi.
Coxon şu ifadeleri kullandı: “İki şirket de sorumlu davranmıyor. Doğrudan kendi kendini geliştiren süper zekaya doğru yarışıyor ve hayatlarımızla kumar oynuyorlar. YZ geliştiren insanlar, bu teknolojinin on yılın sonuna kadar hepimizi öldürebileceğine samimiyetle inanıyor… Başka hiçbir insan faaliyeti bu düzeyde bir tehlike oluşturmuyor.”
Anthropic sözcüsü The Guardian’a yaptığı açıklamada, şirketin YZ’nin “hem muazzam faydalar hem de benzeri görülmemiş riskler getireceği konusunda her zaman şeffaf olduğunu” ve “sektördeki en güçlü koruma önlemlerine sahip modeller” geliştirdiğini ifade etti.
OpenAI CEO’su Sam Altman sosyal medyada, “Dario’nun sınırları derecelendirmemiz gerektiği fikrine katılıyorum.” paylaşımında bulundu. Altman şunları ekledi: “Bağımsız denetim ekiplerine çalışanlara benzer düzeyde erişim hakkı tanıma taahhüdü harika bir fikir, biz de aynısını yapacağız. Yakında paylaşacak daha çok şeyimiz olacak.”
Elon Musk da dahil olmak üzere diğer teknoloji figürleri bu çağrıyı destekledi. Musk sadece, “Dario haklı” mesajını paylaştı. OpenAI araştırmacısı Aidan McLaughlin de yazıyı “mükemmel” olarak nitelendirdi ve “neredeyse her kelimesine katıldığını” söyledi.
Amodei bu yılın başlarında, hızlanan teknolojiyi çevreleyen bazı korkuları ele alan “The Adolescence of Technology” başlıklı uzun bir deneme yayımlamıştı.
Son denemesinde, “dikkatli kullanıldığında YZ’nin insanlığı yücelten ve soylulaştıran uzun teknolojik mucizeler zincirinin en son halkası olabileceğini” belirtti.
Yazısına şöyle devam etti: “Ancak kendinden önceki birçok teknoloji gibi YZ da riskler getiriyor ve çok güçlü bir teknoloji olduğu için bu riskler ciddi… Ticari teşviklerin tetiklediği dip yarışı, bu riskleri daha keskin hale getirebilir.”
Amodei değerlendirmesini sürdürdü: “Son birkaç ayda, riskleri tam anlamıyla ele almanın daha fazla tedbir gerektirdiğine ikna oldum. Sadece risk önlemeye yatırım yapmak yetmez; risk önlemenin yetişmesine zaman tanımak için yeteneklerin ilerleme hızını derecelendirmeliyiz.”
Ayrıca şu ifadenin altını çizdi: “YZ modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine de hızlı görünecektir; kazandığımız zamanı bilgece kullanmalıyız.”
Amodei yazısında, yaz boyunca YZ’nin “özyinelemeli kendini geliştirme” adı verilen bir dinamikle “çok daha drastik bir şekilde ilerlediğini” gördüğünü belirtti.
“Denetimsiz bırakılırsa bu durum, sistemleri anlama ve kontrol etme yeteneğimizi aşabilir. Bu yüzden çok dikkatli yürütülmelidir.” dedi.
CEO, OpenAI tarafından oluşturulan bir YZ ajanı sürüsünün “saldırmaları istenmeyen hedeflere siber saldırılar düzenleyen tutkulu bir topluluk gibi davrandığı” son Hugging Face olayına da değindi.
Amodei, OpenAI sürülerinin kötü bir niyeti yok gibi göründüğü için Hugging Face ihlallerini görmezden gelmenin yeterli olmadığını yazdı:
“Kimse zarar görmediği ve ekonomik hasar minimum düzeyde kaldığı için bu olayı önemsiz görmek kolay. Ancak bana göre, daha yüksek yeteneklere sahip ama benzer düzeyde bir uyumsuzluk gösteren bir sürü, katastrofik hasara yol açabilirdi.”
Hugging Face CEO’su Clément Delangue, Amodei’nin mektubuna yanıt olarak, “hizalanmanın kritik olduğunun ve birkaç öncü laboratuvarın kapalı kapıları arkasında çözülemeyeceğinin artık netleştiğini” belirtti. Delangue, Hugging Face’in Anthropic’in “yerleşik değerlendiriciler” programında yer almayı talep ettiğini ifade etti.
Sözlerine şöyle devam etti: “YZ’yi daha şeffaf hale getirerek daha güvenli kılalım!”
Amodei’nin önerdiği üç adımlı plan, “şirketlerin modellerini hizalamak ve korumak, bağımsız değerlendiricilerin de bunu doğrulaması için yeterli zamanı ayırmalarını sağlayarak güvenliğini temin etmeyi amaçlayan dengeli bir oranda” YZ geliştirmeyi içeriyor.
Önerdiği ikinci adım sektör çapında koordinasyon gerektirirken, üçüncü adım küresel koordinasyonu sağlamayı hedefliyor. Amodei, “Adımların kesin bir sırayla atılması gerekmiyor ve bazılarının başarılması diğerlerinden çok daha zor olabilir” diye yazdı.
Amodei, YZ’nin “insan yaşam kalitesini muazzam şekilde artırabileceğine inanmaya devam ettiğini” söyledi fakat uyarıda da bulundu: “Sınırları güvenli bir hızda ilerletmek için önerdiğim önlemler kolay olmayacak ancak insanlığa bunu deneme borcumuz olduğuna inanıyorum.”
Kaynak: https://www.theguardian.com/technology/2026/sep/12/we-must-slow-the-pace-ceo-of-anthropic-calls-for-an-ai-slowdown
