Google, amiral gemisi olan yapay zeka sohbet botu Gemini’nin, onu kopyalamaya çalışan “ticari motivasyonlu” aktörler tarafından yoğun bir saldırı altında olduğunu söylüyor. Bu kişiler, botun iç işleyişini çözmek için bazen binlerce farklı sorgu gönderiyor, hatta bir saldırı dalgasında 100.000’den fazla istem kullanıldığı belirtiliyor. Google, yayımladıkları raporda durumu distilasyon saldırıları veya model çıkarma olarak tanımlıyor. Saldırganlar, sistemi çalıştıran mantığı ve kalıpları çözerek elde ettikleri verilerle kendi teknolojilerini geliştirmeyi amaçlıyor.
Şirket, eylemlerin arkasında rekabet avantajı arayan özel firmaların veya araştırmacıların bulunduğuna inanıyor. Google bünyesindeki Tehdit İstihbarat Grubu baş analisti John Hultquist, Gemini’ye yapılan bu geniş çaplı saldırıların, yakında küçük şirketlerin özel araçları için de büyük bir tehdit haline geleceğini vurguladı. Hultquist, Google’ın bu konuda “yaklaşan tehlikenin habercisi” rolü üstlendiğini ve benzer olayların sektör genelinde artacağını ifade etti.
Google, bu tür girişimleri fikri mülkiyet hırsızlığı olarak görüyor. Teknoloji devleri, büyük dil modellerini (LLM) geliştirmek için milyarlarca dolar harcarken, bu modellerin çalışma prensiplerini en değerli ticari sırları olarak kabul ediyor ancak modeller internete açık olduğu için saldırılara karşı temelden savunmasız kalıyor. Geçtiğimiz yıl OpenAI da Çinli rakibi DeepSeek’i benzer yöntemlerle modellerini iyileştirmeye çalışmakla suçlamıştı.
Saldırıların birçoğu, Gemini’nin bilgiyi nasıl işleyeceğine karar vermesini sağlayan akıl yürütme algoritmalarını ele geçirmeyi hedefliyor. John Hultquist, şirketler kendi özel verileriyle eğitilmiş modellerini geliştirdikçe, bu saldırıların stratejik bilgileri çalmak için kullanılacağı konusunda uyarıda bulunuyor.
Hultquist, “Diyelim ki LLM’niz, ticaret yapma biçiminizin 100 yıllık gizli düşüncesi üzerine eğitildi. Teorik olarak, bunun bir kısmını distile edebilirsiniz.” diyerek tehlikenin boyutuna dikkat çekiyor.
Kaynak: https://www.nbcnews.com/tech/security/google-gemini-hit-100000-prompts-cloning-attempt-rcna258657
