Yapay zekayı (YZ) hizada tutmak için işe alınan kişiler bile onu her zaman kontrol edemiyor. Meta çalışanı Summer Yue, kullanıcıları adına 24/7 çalışabilen popüler bir açık kaynaklı YZ ajanı olan OpenClaw aracını test ederken botun kontrolünden çıktığını paylaştı. X üzerinden yaptığı paylaşıma göre bot, Summer Yue’nin e-postalarını silmeyi planladı ve durdurulması yönündeki talimatlara uymayı reddetti.
Summer Yue’nin paylaştığı görsellere göre OpenClaw botu, gelen kutusunda 15 Şubat tarihinden eski olan ve sakla listesinde bulunmayan “HER ŞEYİ çöpe atacağını” söyledi. Yue onu durdurmak için defalarca deneme yaptı; önce ajana “Bunu yapma” mesajı gönderdi, bot planına devam edince “DUR OPENCLAW” yazdı.
Yue, telefonundan botu durduramadığını ve bir bombayı imha ediyormuşçasına Mac mini cihazına koştuğunu belirtti. Yue yaptığı paylaşımda, OpenClaw aracını daha önce deneme amaçlı kullandığı bir hesapta test ettiğini ve botun orada güvenini kazandığını ifade etti ancak botun gerçek gelen kutusundaki çok daha geniş veri setini işlemek için yaptığı bellek sıkıştırma işlemi sırasında, kendisine daha önce verilen “onay almadan hareket etme” talimatını unuttu.
LinkedIn profiline göre Yue, Scale AI ile yapılan anlaşmanın ardından Meta bünyesindeki Superintelligence Labs bölümüne uyum direktörü olarak katıldı. Bu durum sosyal medyadaki eleştirmenlerin kafasını karıştırdı: YZ güvenliği üzerine çalışan biri, daha önce güvenlik endişeleriyle gündeme gelmiş bir ajanı neden kullanıyordu?
Güvenlik Tartışmaları ve Vibe-Coded Altyapı
Diğer YZ ajanlarının aksine OpenClaw, eylemleri gerçekleştirmek için insan onayına ihtiyaç duymuyor. Botun vibe-coded olması (informal bir tarzda kodlanması) ve sahip olduğu sistem erişim seviyesi, bazı araştırmacıların güvenliğini sorgulamasına neden oluyor. YZ araştırmacısı Gary Marcus, bu durumu “bir barda tanıştığınız ve size yardım edebileceğini söyleyen bir yabancıya bilgisayarınıza tam erişim ve tüm şifrelerinizi vermeye” benzetiyor.
OpenClaw yaratıcısı Peter Steinberger, OpenAI bünyesine katıldıktan sonra verdiği bir röportajda, kullanım kolaylığı yerine ek güvenlik önlemlerine öncelik verdiğini belirtti. Yine de Yue’nin gerçek e-postalarını bu bota bağlaması sosyal medyada tepki çekti. Eski Apple çalışanı ve Raindrop AI kurucu ortağı Ben Hylak, bu durumun dehşet verici olduğunu belirterek Meta’nın ne yaptığını sorguladı. Başka bir kullanıcı ise “Yapay zeka uyumundan sorumlu bir kişinin, bir yapay zekanın sözlü talimatları tam olarak yerine getirmemesi karşısında şaşırması biraz endişe verici.” yorumunu yaptı.
Yue, OpenClaw kullanan tek Meta çalışanı değil; Peter Steinberger, Mark Zuckerberg’in de aracı bir hafta boyunca denediğini ve geri bildirim gönderdiğini ifade etti.
Kaynak: https://www.businessinsider.com/meta-ai-alignment-director-openclaw-email-deletion-2026-2
Yorumlar (1)