Yapay zeka (YZ) araçları ticari ortamlarda kullanılacak kadar güvenilir mi? Öyleyse, karar vermeleri için onlara özerklik verilmeli mi?
Financial Times tarafından paylaşılan yeni raporlar, Amazon’un bulut biriminde yaşanan en az iki internet kesintisine hatalı YZ ajanlarının neden olduğunu iddia ediyor. Bu durum, söz konusu soruları tekrar gündeme getiriyor.
Aralık ayındaki bir olayda, Amazon Web Services mühendisleri, şirketin kendi geliştirdiği Kiro adlı “ajan” kodlama aracının 13 saatlik bir kesintiye yol açan değişiklikler yapmasına izin verdi. Konuya yakın kaynaklar, YZ’nin talihsiz bir şekilde “ortamı silip yeniden oluşturmaya” karar verdiğini belirtiyor.
Amazon çalışanları, bunun bir YZ aracının dahil olduğu ilk kesinti olmadığını iddia ediyor. Üst düzey bir AWS çalışanı, mühendislerin herhangi bir müdahale olmadan YZ ajanının sorunu çözmesine izin verdiğini ve son birkaç ayda en az iki üretim kesintisi gördüklerini aktarıyor. Çalışanlar, kesintilerin küçük ancak tamamen öngörülebilir olduğunu ifade ediyor.
AWS, kendi kodlama asistanı Kiro’yu temmuz ayında piyasaya sürdü. Şirket bu aracı, projeleri konsept aşamasından üretime kadar teslim eden otonom bir ajan olarak tanımlıyor. Daha önceki bir kesintide ise Amazon tarafından geliştirilen başka bir YZ asistanı rol oynadı.
Çalışanlar, YZ araçlarına bir operatörün uzantısı gibi yaklaşıldığını ve bunlara operatör düzeyinde izinler verildiğini söylüyor. Her iki kesintide de mühendisler, değişiklikleri kesinleştirmeden önce ikinci bir kişinin onayını almayarak tipik protokole aykırı hareket etti.
Amazon, Financial Times gazetesine yaptığı açıklamada, kesintinin yalnızca Çin’in bazı bölgelerindeki bir servisi etkileyen “son derece sınırlı bir olay” olduğunu savundu. Şirket, YZ araçlarının sürece dahil olmasının bir tesadüf olduğunu ve aynı sorunun herhangi bir geliştirici aracı veya manuel işlemle de yaşanabileceğini iddia ediyor.
Şirket ayrıca Kiro’nun herhangi bir işlem yapmadan önce yetki talep ettiğini ancak aralık ayındaki olayda yer alan mühendisin normalden fazla izne sahip olduğunu belirtti. Amazon, bu durumu bir erişim kontrolü sorunu olarak nitelendirerek “Her iki durumda da bu bir YZ hatası değil, kullanıcı hatasıydı.” açıklamasını yapıyor.
Amazon, hataların YZ araçlarıyla daha yaygın hale geldiğine dair bir kanıt görmediğini de öne sürüyor fakat YZ araçlarının arızalanmaya meyilli olduğunu gösteren pek çok veri bulunuyor. Bu araçların halüsinasyon üretme veya gerçekleri uydurma eğilimleri ile zayıf güvenlik bariyerleri geniş çapta belgelenmiş durumda. Bazı Amazon çalışanları bile hata riski nedeniyle araçları kullanmakta tereddüt ettiklerini dile getiriyor.
Deneyimli programcılar, YZ kodlama asistanlarının sürekli olarak hatalı kodlar ürettiğini fark ediyor. Çeşitli çalışmalar, bu çıktıların gerektirdiği sık kontrollerin yazılım mühendislerini aslında yavaşlattığını gösteriyor. YZ ile “vibe coding” (hissiyatla kodlama) akımının yükselişi, sahiplerinin amaçlamadığı kararlar veren YZ ajanları nedeniyle sayısız hataya yol açıyor.
Microsoft ve Google, kodlarının dörtte birinden fazlasının artık YZ ile yazıldığını belirtiyor. Anthropic ve OpenAI mühendisleri ise kodlarının neredeyse tamamının YZ tarafından yazıldığını ifade ediyor.
Amazon’un kesintileri basit bir kullanıcı hatası olarak nitelendirmesi mantıksız görünüyor çünkü kodun üretilmesinde YZ kullanılıyor. Amazon, çalışanlarını bu araçlara daha fazla bağımlı olmaları konusunda sürekli teşvik ediyor. Şirketin, yazılımcıların %80’inin haftada en az bir kez YZ kullanması yönünde bir hedef koyduğu biliniyor ama bir şeyler ters gittiğinde fatura YZ’ye veya onu dayatan yöneticilere değil, her zaman çalışana kesiliyor.
Yeni ortaya çıkan bu hataların, geçen ekim ayında internetin yarısını etkileyen büyük AWS kesintisiyle bir bağlantısı olup olmadığı henüz bilinmiyor ama Amazon’un YZ araçlarına olan artan bağımlılığı göz önüne alındığında, söz konusu teknolojinin söz konusu felakette bir rol oynayıp oynamadığı merak konusu.
Kaynak: https://futurism.com/artificial-intelligence/amazon-ai-aws-outages
