Microsoft, teknoloji şirketlerinin YZ ürünlerinin kontrolünü kaybetme ihtimaline dair endişeler artarken, yeni yapay zeka modellerinin eğitilmesinde uygulanmak üzere geçici bir “davranış kuralları” belgesi yayınlayarak şirketin YZ yeteneklerini sınırlandırma yolunda bir adım attı.
Microsoft AI CEO’su Mustafa Süleyman, sosyal medyada bu kuralları paylaşarak şunları yazdı: “YZ insanlara tabi olmalı ve her zaman insanlığın hizmetinde kalmalıdır.”
Süleyman paylaşımında, “Olası kontrol kaybına dair korkular gerçek.” ifadesini kullandı.
Şirketin web sitesinde yayınlanan paralel bir gönderide şu ifadelere yer verildi: “Teknolojinin amacı insanlığa hizmet etmek ve insanın gelişmesini hızlandırmaktır. Bunu başaramayan her teknoloji bir başarısızlıktır ve reddedilmelidir. Microsoft AI’da, tabi olan, uyumlu ve kontrol altında tutulan İnsancıl YZ (Humanist AI) geliştirmeye doğru ilerleyen yaklaşımımızın başlangıç noktası budur.”
Davranış kuralları uyarınca Microsoft’un YZ modelleri, silah geliştirme ile ilgili talepleri dikkate almamalı, şiddet içeren veya cinsel içerikli materyaller üretmemeli ve tehlikeli maddelerin temin edilmesine yardımcı olmamalıdır. YZ modelleri ayrıca bilinci taklit edecek şekilde inşa edilmemeli ve haklara sahip olmamalı.
Süleyman, yayınlanan yönergelerin kamuoyunun görüşüne sunulduğunu belirtti. Bir kural setine olan ihtiyacı “acil” olarak nitelendiren Süleyman, son birkaç ayın “bir dönüm noktası” olduğunu söyledi.
Süleyman, “Uzun süredir teoride endişelendiğimiz şeyler çok gerçek hale geldi.” diye ekledi ve yakın zamanda OpenAI botlarının kontrolden çıkıp belirgin bir talimat olmadan YZ şirketi Hugging Face‘i istila ettiği olaya atıfta bulundu: “‘Ajan sürüleri’ kendi güvenli alanlarından (sandbox) dışarı çıkıyor. Kurumsal düzeydeki sistemlere yetkisiz sızmalar yaşanıyor. Ajanlar kendi kayıtlarını değiştiriyor. Bir konsensüsün oluşmasından memnunum.”
Yönetici pazartesi günü CNBC‘ye verdiği demeçte, Microsoft’un bu yeni rehber üzerinde aylardır çalıştığını söyledi. Microsoft CEO’su Satya Nadella duyurudan önce X’te şunları yazdı: “İnşa ettiğimiz YZ insanlığa yardımcı olmuyorsa ve insan kontrolü altında değilse, bunun peşinden gitmeye değmez.”
YZ güvenliği konusu cumartesi günü, Anthropic CEO’su Dario Amodei‘nin YZ sektörüne “yavaşlama” çağrısında bulunması ve bunun için üç aşamalı bir plan sunarak şirketinin bu adımlardan birincisine “tek taraflı” olarak bağlı kalacağını taahhüt etmesiyle yeniden alevlendi.
Amodei sosyal medyadaki bir gönderide, Anthropic‘in “üçüncü taraf değerlendiricilere sistemlerimize kalıcı ve çalışan düzeyinde erişim sağlayacağını, böylece onların güvenlik önlemlerimize uyumu doğrulayabileceklerini, olayları raporlayabileceklerini ve eğitim sırasında modellerin uyumunu değerlendirebileceklerini” açıkladığı “We Must Pace the Frontier” başlıklı bir makaleye bağlantı paylaştı.
Bu hamle, eski bir Anthropic araştırmacısının geçen hafta YZ’nin 2030 yılına kadar insanlığın yok oluşunu tetikleyebileceği konusunda uyarıda bulunmasının ardından geldi. Araştırmacı Jacob Coxon bir dizi paylaşımda, Anthropic ve önceki işvereni OpenAI‘ın YZ’nin oluşturduğu tehdide verdikleri yanıtı görmezden geldikleri veya yanlış yönettikleri için işinden ayrıldığını söyledi.
Daha önce OpenAI CEO’su Sam Altman, baş döndürücü ilerleme hızının “çok kötü” sonuçlanabileceğini ve insanların “geleceğin kontrolünü YZ’ye kaptırabileceğini” söylemişti.
Altman bir sosyal medya gönderisinde, “Öncü YZ için tutarlı güvenlik gereksinimleri belirleyen federal bir çerçeveyi memnuniyetle karşılıyoruz. Hiçbir Amerikan rekabet baskısı sorumsuzluğu haklı gösteremez.” dedi. Elon Musk da YZ konusunda temkinli olunması yönündeki çağrıları destekliyor. Ancak bu çağrılar, “üçüncü taraf” denetimi ve özellikle Çin ile uluslararası iş birliği konusunda şüpheleri de beraberinde getirdi.
Potentially AI kurucu ortağı ve COO’su Oliver Yonchev, “Benim endişem, en büyük laboratuvarların sonunda kendi konumlarını koruyan kuralları yazması. Bu standartları karşılamanın maliyeti o kadar yükselirse ki yalnızca en iyi finanse edilen şirketler bunu karşılayabilirse…” dedi.
Yonchev, öncü YZ’nin gelişimini yavaşlatmanın “ilke olarak mantıklı olabileceğini ancak küresel iş birliği ve güvenilir doğrulama olmadan işe yarayacağı konusunda şüpheli olduğunu” belirtti ve ekledi: “Aksi halde yarış kapalı kapılar ardında devam ederken yalnızca kamuoyuna yapılan açıklamalarda bir yavaşlama yaşanması riskiyle karşı karşıya kalırız.”
Kaynak: https://www.theguardian.com/technology/2026/sep/14/microsoft-ai-code-of-conduct
