Anthropic ve OpenAI, tescilli verilerin YZ modellerini eğitmek için nasıl kullanılabileceği konusundaki endişeler yüzünden bazı büyük YZ müşterilerinden gelen rahatsız edici sorularla karşılaşıyor. The Information‘ın haberine göre bazı şirketler o kadar endişeli ki, verilerinin nasıl işlendiğine dair güvenceler talep etmeye veya çalışanlarının hangi modelleri, hangi görevler için kullanabileceğine kısıtlamalar getirmeye kadar gidiyor. Modellerin kendi fikri mülkiyetleri ve bilgileriyle eğitilebileceğinden korkuyorlar.
Sorunun kaynağı, Anthropic‘in haziran ayında yaptığı bir değişikliğe dayanıyor. Amiral gemisi Fable modelinin politikalarındaki değişikliğin ardından, Anthropic artık müşteri verilerini elinde tutabiliyor. Şirket bunu yalnızca Fable’ın kötüye kullanılmadığından emin olmak için yaptığını savunuyor ancak bazı şirketler, bunun hassas iş verilerinin de bu sürece takılacağı anlamına geldiğine dair endişelerini dile getirdi.
Hem OpenAI hem de Anthropic, varsayılan olarak belirli kurumsal sözleşmelere sahip şirketlerin kendilerine verdiği bilgilerle modellerini eğitmediklerini belirtiyor fakat bu hikayenin tamamını anlatmıyor. Her iki şirket de aynı kurumsal müşterilerden meta veri topluyor ve bu meta verilerin tam olarak ne içerdiğine dair bilgi bulmak zor olsa da, OpenAI bunların yalnızca “hizmetlerinin nasıl kullanıldığını daha iyi anlamak” için kullanıldığını not düşüyor. Anthropic ayrıca müşterilerin ürünlerini nasıl kullandığına dair topladığı tüm verilerin toplulaştırıldığını ve anonimleştirildiğini savunuyor ve bu meta veriler modelleri eğitmek için kullanılmıyor.
Yine de, tam olarak hangi verilerin toplandığının yeterince açık olmaması konusunda endişeler sürüyor. Rapora göre, telekomünikasyon şirketi C Spire‘ın hem OpenAI hem de Anthropic ile, verilerinin modelleri eğitmek için kullanılmasını engelleyen anlaşmaları bulunuyor.
Ancak sözleşmeler hem OpenAI’a hem de Anthropic’e C Spire’ın teknik kullanım verilerini toplama izni veriyor. C Spire bunun, kullanım verilerinin yanı sıra YZ modellerinin hangi uygulamalara bağlandığına dair bilgileri de içerdiğine inanıyor. Ayrıca YZ şirketlerinin, modellerinin yanıt üretme aşamaları arasında neler yaptığına dair bilgi toplayabileceğinden de endişe ediyor.
Kendi adına OpenAI, modellerini eğitmek için bu “düşünce zinciri” verilerini kullanmadığını söylüyor ama rapor, C Spire’ın hala hangi verilerin toplandığını daha iyi anlaması gerektiğine inandığını da ekliyor. Şirket, her iki YZ firmasının da açıklamalarında net olmadığını savunuyor.
Özel Sistemleri Tercih Etmek
Gizlilik endişelerine bir çözüm, havacılık ve uzay şirketi Northrop Grumman‘ın halihazırda yapmayı seçtiği gibi ağ bağlantısız sunucular kullanmak olabilir. The Information, şirketin OpenAI ve Anthropic gibilere güvenmek yerine açık kaynaklı YZ modellerini kendi ağ bağlantısız sunucularında çalıştırdığını bildiriyor.
Alternatif olarak Microsoft, OpenAI ve Anthropic müşterilerini kendi güvenli YZ platformlarına çekerek herhangi bir veri gizliliği endişesinden yararlanmaya çalışıyor. Microsoft’un izole bulut ortamları, YZ modellerini dış YZ şirketlerine hiçbir veri göndermeyen özel sunucularda çalıştırıyor. Ancak bu yaklaşım maliyetli ve rapor, en az bir müşterinin hala Microsoft’un alternatif yaklaşımını değerlendirdiğini not düşüyor.
İlaç şirketi Novo Nordisk ise biraz daha farklı bir yaklaşım benimsedi. Bazı görevler için Anthropic’in Claude modelini kullanmaya devam etse de, tescilli verilerin model tarafından kullanılmasına yasak getiriyor.
Güven eksikliğinin YZ şirketlerine ciddi paralar kaybettirme potansiyeline sahip olduğu çok açık ve bir vakada bu durum şimdiden gerçekleşti. Aynı rapor, ABD’li büyük bir kamu hizmeti şirketinin Anthropic’in Fable’ını test etme planlarını çoktan iptal ettiğini not düşüyor. Kamu hizmeti şirketi, Fable’ın temel güç altyapısını çalıştırıp çalıştıramayacağını bilmek istiyordu, ama Anthropic’in geri alınamaz bir sıfır veri tutma (ZDR) politikasını kabul etmeyi reddetmesi üzerine nihayetinde fişi çekti.
Nvidia da Fable’ı, hassas verilere erişim sağlamasını gerektirmeyen görevler için kullanmaya karar verdi. Şirket, neden olarak yine aynı ZDR garantilerinin eksikliğine işaret ediyor. Bunun yerine Nvidia, Anthropic’in modeli için fazla hassas bulduğu görevlerde kendi şirket içi YZ çözümünü kullanıyor. Nvidia CEO’su Jensen Huang, meşhur bir açıklamasında çalışanlarının her yıl yıllık maaşlarının yarısı değerinde YZ token’ı kullanması gerektiğini söylemişti.
Kaynak: https://www.tomshardware.com/tech-industry/artificial-intelligence/nvidia-palantir-and-others-restrict-advanced-ai-model-usage-over-privacy-concerns-report-claims-paranoia-rising-over-customer-intellectual-property
