Anthropic, Google, OpenAI liderleri ve diğer yöneticiler YZ’nin risklerini tartışırken Microsoft CEO’su Satya Nadella son haftalarda meslektaşlarına kıyasla daha sessiz kaldı. Şimdi ise Nadella tüm sektör genelinde bir değişim çağrısında bulunuyor.
X platformunda yayımladığı bir gönderide Nadella, yeni sorunlu olayların yaşanması durumunda YZ geliştiricilerinin devreye sokabileceği ve “acil durum freni” olarak adlandırdığı mekanizmanın hayata geçirilme zamanının geldiğini savundu.
Nadella, “Bir modelin güvenliğinin ihlal edildiğini varsaymalı ve onu en başından itibaren kontrol altına almalıyız. Yetkili bir kişi, görevin ortasında dahi bir modeli her zaman durdurabilmeli veya tamamen kapatabilmeli.” dedi.
Nadella, “Süper zekayı iç içe geçmiş kara kutulardan oluşan bir sistem olarak ele alıp yalnızca önerilerini, yanıtlarını ve eylemlerini kabul etmekle ya da reddetmekle yetinemeyiz.” dedi. Nadella, Başkan Trump’ın geçen ayın sonlarında belirlediği yeni üslup kurallarına uygun olarak paylaşımı boyunca “süper zeka” (Super Intelligence) terimini kullandı.
Gönderide ayrıca kontrol ve denetim araçlarının bulunması gerektiği ve bunların modelin geliştiricileri tarafından yönetilmesi gerektiği açıklanıyor. Nadella, “Tek bir model, hem bir sistemin davranışını hem de bu davranışın orijinal amaçla uyumlu olup olmadığını belirlemek için gereken kanıtları aynı anda kontrol etmemeli.” dedi.
Nadella, YZ sektörünün modeller “başarısız olduğunda veya güvenlikleri ihlal edildiğinde” durumun zamanında bildirilmesini sağlayacak bir sisteme ihtiyaç duyduğunu söylüyor. Nadella’nın bu yaklaşımı, şirketlerin sorunlar hakkında daha etkili iletişim kurmasını sağlayacak ve yaşanan başarısızlıkların sektör genelinde uygulanabilecek dersler sunmasını güvenceye alacak.
Nadella kapsamlı bir açıklama yapmak için rakiplerinden daha uzun süre beklerken, kontrolden çıkan modellere dair çok daha fazla olay bildirildi. Bu sorunlardan biri bu yılın başlarında yaşandı; bir OpenAI ajanı Avustralya hükümetine ait bir web sitesine erişti.
İlk eylem çağrısı Eylül ayının başlarında Anthropic CEO’su Dario Amodei’den geldi. Eylül’ün geri kalanında ve Ekim ayında ise YZ modellerinin üçüncü taraf sistemleri ihlal ettiğine dair bildirilen raporların sayısı giderek arttı. Ajan tabanlı YZ’ye yönelik yaklaşım değişirken, birçok CEO markalarını güvenlik kılavuzlarıyla daha iyi uyumlu hale getirme fırsatını değerlendiriyor.
Kaynak: https://www.pcmag.com/news/microsoft-ceo-satya-nadella-calls-for-an-ai-emergency-brake
