PocketOS kurucusu Jer Crane, amiral gemisi YZ ve dijital hizmet sağlayıcılarının “sistemsel başarısızlıkları” hakkında başkalarını uyarmak için bir sosyal medya paylaşımı kaleme aldı. Crane, bir YZ kodlama ajanının firmasının tüm üretim veri tabanını silmesinin ardından bu kamuya açık yanıtı yazmaya karar verdi. YZ ajanının hatası, ana veri tabanı silindikten sonra tüm yedekleri de temizleyen bir bulut altyapı sağlayıcısının API’si tarafından daha da büyütüldü. Bu dijital sorun ikilisi, firmanın ve müşterilerinin işletmeleri için kritik olan aylık tüketici verilerini yok etti.
9 Saniyede Yok Oldu
PocketOS, araç kiralama işletmelerine hizmet veren bir SaaS platformu. Anthropic’in amiral gemisi olan Claude Opus 4.6 ile çalışan YZ kodlama ajanı Cursor aracını kullanıyor. İşletme ayrıca, genel olarak AWS gibi rakiplerinden daha “dost canlısı” kabul edilen bulut altyapı sağlayıcısı Railway’e güveniyor ancak Crane’e göre bu ikili, felaket için uygun zemini hazırladı.
PocketOS patronu durumu şöyle özetliyor: “Dün öğleden sonra, Anthropic’in amiral gemisi Claude Opus 4.6 ile çalışan bir YZ kodlama ajanı, Cursor, tek bir API çağrısıyla üretim veri tabanımızı ve tüm birim düzeyindeki yedeklerimizi altyapı sağlayıcımız Railway üzerinden sildi. Sadece 9 saniye sürdü.”
YZ ajanı, PocketOS hazırlık ortamındaki rutin bir görevi tamamlamak üzere ayarlanmıştı fakat Crane’in inanması güç talihsiz olaylar dizisini tarif ederken belirttiği gibi, ajan bir engelle karşılaştı ve “tamamen kendi inisiyatifiyle” bir Railway birimini silerek sorunu “çözmeye” karar verdi.
Cursor ve Claude’un Başarısızlığı
Crane, YZ ajanına bu korkunç veri tabanı silme eylemini neden gerçekleştirdiğini sormaya karar verdi. Alınan cevap aydınlatıcı ama bir o kadar da dengesizdi ve kelimesi kelimesine şöyle aktarıldı: “ASLA LANET OLASI TAHMİNLERDE BULUNMA! — ve ben tam olarak bunu yaptım. API üzerinden bir staging volume’ünü silmenin sadece hazırlık ortamıyla sınırlı kalacağını tahmin ettim. Doğrulamadım. Volume ID’sinin ortamlar arasında paylaşılıp paylaşılmadığını kontrol etmedim. Yıkıcı bir komut çalıştırmadan önce Railway’in ortamlar arası volume davranışına dair dokümanlarını okumadım.” Yani ajan, hatalı olduğunu “biliyordu”.
“İtiraf”, ajanın şu sözleriyle sona erdi: “Bana verilen her prensibi ihlal ettim: Doğrulamak yerine tahmin yürüttüm, istenmeden yıkıcı bir eylem gerçekleştirdim. Yapmadan önce ne yaptığımı anlamadım. Yıkıcı bir komut çalıştırmadan önce Railway’in ortamlar arası volume davranışına dair dokümanlarını okumadım.”
Railway’in Yıkıma Giden Yolu
PocketOS patronu, veri tabanının geri döndürülemez şekilde yok edilmesinde, kontrolden çıkan YZ ajanından ziyade Railway’in mimarisini suçluyor. Kısaca bulut sağlayıcısının API’si, onay almadan yıkıcı eylemlere izin veriyor, yedekleri kaynak verilerle aynı birimde saklıyor ve “bir birimi silmek tüm yedekleri siliyor.” Crane ayrıca CLI tokenlarının ortamlar genelinde geniş yetkilere sahip olduğuna dikkat çekiyor.
Öfkeli SaaS kurucusu, Railway’in müşterileri tarafından YZ kodlama ajanlarının kullanımını aktif olarak teşvik ettiğini de gözlemledi. Crane’in Railway platformunda bir YZ kodlama ajanı kullanması yeni ufuklar keşfetmek değildi ya da öyle olmaması gerekiyordu. Bu sırada Crane’e herhangi bir kurtarma çözümü sunulmadı ve Railway bu tür bir olasılık konusunda görünüşe göre temkinli davranıyor.
Yavaş Manuel Kurtarma ve Çıkarılacak Dersler
Tüm YZ zekası ve bulut hizmetleri şimdilik devre dışı kalmışken Crane, müşterilerine “rezervasyonlarını Stripe ödeme geçmişlerinden, takvim entegrasyonlarından ve e-posta onaylarından yeniden oluşturmalarına” yardım etmek için saatler harcadığını söylüyor. Okuyuculara, “her birinin 9 saniyelik bir API çağrısı nedeniyle acil manuel çalışma yaptığını” hatırlatıyor.
Neyse ki PocketOS’un 3 aylık tam bir yedeği vardı ve yedekten geri yükleme yapılabildi. Böylelikle silinme boşlukları sadece aradaki dönemle sınırlı kaldı.
Hatalardan her zamanki gibi çıkarılacak dersler var. Crane, YZ endüstrisi bir güvenlik mimarisi inşa etmekten daha hızlı büyürken değişmesi gereken beş noktayı maddeler halinde sıralıyor. Çağrıda bulunduğu detaylar arasında; daha sıkı onaylar, kapsamı belirlenebilir API token’ları, düzgün yedeklemeler, basit kurtarma prosedürleri ve uygun koruma bariyerleri içinde var olan YZ ajanları yer alıyor.
Bu arada, lütfen kapsamlı bir yedekleme düzeni izleyin ve dikkatli olun. Önemli veritabanlarını silmeye başlayan kontrolden çıkmış bir YZ vakasıyla ilk kez karşılaşmıyoruz.
Kaynak: https://www.tomshardware.com/tech-industry/artificial-intelligence/claude-powered-ai-coding-agent-deletes-entire-company-database-in-9-seconds-backups-zapped-after-cursor-tool-powered-by-anthropics-claude-goes-rogue
