Google, Yapay Zeka Ajanlarını Test Etmek için Dev Bir “Sahte İnternet” Kurdu

Google, Yapay Zeka Ajanlarını Test Etmek için Dev Bir “Sahte İnternet” Kurdu
0

Google Chrome ekibi, şirketin Gemini modellerini kullanarak YZ tabanlı tarayıcı özellikleri geliştirirken işlerin kontrolden çıkmasını önlemek için ekstra çaba harcamaları gerektiğini fark etti. Bu yüzden akıllarına gelen tek şeyi yaptılar ve kontrolü tamamen kendilerinde olan devasa bir alternatif evren interneti kurdular.

“Web kullanımı” ajanlarının açık interneti tanıması, gerçek web sitelerinde ve platformlarda gezinmeyi bilmesi ve web saldırılarına karşı dirençli olması gerekiyor. Bu nedenle ajanları kısıtlı test ortamlarında eğitmek yalnızca belli bir noktaya kadar işe yarıyor. Üstelik modeller, bir test veya simülasyon içinde olduklarını fark edip farklı davrandıkları “değerlendirme farkındalığı” adlı bir durum geliştirebiliyor. Öte yandan, henüz olgunlaşmamış ajanları açık internete salmak da kötü bir fikir. Alternatif evren interneti tam da bu noktada devreye giriyor.

Google’ın bugün bir blog yazısıyla ilk kez ayrıntılarını paylaştığı “Mirror Dimension”, Chrome ekibinin tamamen kontrol ettiği geniş, çeşitli ama izole bir web ekosistemi. Sosyal medya siteleri, alışveriş platformları ve banka panelleri dahil olmak üzere gerçek web sitelerinin tüm bileşenleri ve özellikleriyle inşa edilmiş çok sayıda site ve platform barındırıyor. Tarayıcı asistanı ajanları, tıpkı gerçek internetteymiş gibi Chrome üzerinden bu sitelerle etkileşime girip görevleri tamamlamak zorunda. Bu süreçte savunmalarını ölçmek için gizli istem enjeksiyonu saldırıları gibi dayanıklılık testleriyle de karşılaşıyorlar.

Chrome YZ güvenlik ekibinden yazılım mühendisi Charles Qian şöyle diyor: “Ajanlar programlanmadığı için karşılaşabilecekleri her şeyi öngöremezsiniz; ele almamız gereken keşif alanı devasa ve web tehlikelerle dolu. Herhangi bir kullanıcı, herhangi bir web sitesinde her türlü istemi girebilir. Bu yüzden bu alanı olabildiğince kapsamlı şekilde keşfetmemiz gerekiyor. Ajanın bir görev için hangi bilginin gerçekten gerekli olduğunu ve onay almak için kullanıcıya ne zaman geri dönmesi gerektiğini anlama konusunda olgun bir muhakeme yeteneği geliştirmeye başladığını gördük.”

Mirror Dimension’ı kurmak ve içerikle doldurmak başlı başına bir zorluktu çünkü hem hızlıca geliştirilmeli hem de gerçek webin ölçeğini temsil edecek kadar geniş ve çeşitli olmalıydı. Chrome ekibi bu yapıyı oluşturmak için özel olarak tasarlanmış bir YZ çerçevesinin yönlendirdiği web sitesi ve web uygulaması geliştirme ajanlarından oluşan ordular kurdu. Böylelikle alışveriş sitesinde promosyon kodu girmek veya sosyal medya sayfalarını içerikle doldurmak gibi ayrıntılara kadar uzanan gerçekçi web servisleri ve veri akışları hızla üretildi.

Tüm ortam Google’ın kontrolünde olsa da Chrome çok sayıda kullanıcı koruması ve geçerlilik kontrolüyle inşa edilmiş bir tarayıcı. Ajanların doğru bir eğitim alması için gerçek Chrome’u kullanmaları kritik önem taşıyordu. Araştırmacılar ajanlara normal bir deneyim sunabilmek için tarayıcıyı adeta hacklemek zorunda kaldı ve geçerlilik kontrollerini aşmak adına sahte web sertifikaları oluşturmak gibi karmaşık adımlar attı. Ancak ekip, bu saldırıların hiçbirinin açık internetteki normal Chrome kullanıcılarına karşı gerçekleştirilemeyeceğini vurguluyor. Tüm bu işlemler, ekibin tüm ortamı ve ağı kontrol etmesi sayesinde doğası gereği sahip olduğu sınırsız erişim ve tam kontrol yetkisiyle mümkün oldu.

Araştırmacılar, test ettikleri tarayıcı asistanı ajanlarının son derece zararsız olduğunu ve siber yeteneklerinin bulunmadığını belirtiyor. Yine de hedefleri, daha fazla araştırmacının güvenli ve kontrollü bir test ortamına erişebilmesi için Mirror Dimension’ı Google genelindeki ekiplerin kullanımına sunmak.

Google mühendislik direktörü Doug Turner şöyle diyor: “Bu yaklaşımı hem şirket içindeki hem de dışındaki diğer ekiplerin de bu yöntemi izlemeyi düşünmesi için paylaşıyoruz. Bu henüz ilk adım; modelleri eğitmek amacıyla bu yaklaşıma yatırım yapmaya devam edeceğiz. Tahminimce modeller daha gelişmiş hale geldikçe bu ortamı giderek daha gerçekçi kılmak için üzerinde çalışmayı sürdürmemiz gerekecek.”

Kaynak: https://www.wired.com/story/google-built-a-giant-mirror-dimension-internet-to-test-its-chrome-ai-agents/
Bu Yazıya Tepkiniz Ne Oldu?
  • be_endim
    Beğendim
    0
  • alk_l_yorum
    Alkışlıyorum
    0
  • e_lendim
    Eğlendim
    0
  • d_nceliyim
    Düşünceliyim
    0
  • _rendim
    İğrendim
    0
  • sevdim
    Sevdim
    0
  • _ok_k_zd_m
    Çok Kızdım
    0
144050 Puan

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir