Kaliforniya valisi dönüm noktası niteliğindeki yapay zeka güvenlik tasarısını engelledi.

Kaliforniya Valisi Gavin Newsom, büyük teknoloji şirketlerinin güçlü muhalefetiyle karşılaşan önemli bir yapay zeka (AI) güvenlik tasarısını engelledi.

Önerilen mevzuat, ABD'de yapay zekâya ilişkin ilk düzenlemelerden bazılarını uygulamaya koyacaktı.

Newsom, tasarının inovasyonu engelleyebileceğini ve yapay zeka geliştiricilerini eyalet dışına taşınmaya sevk edebileceğini söyledi.

Tasarıyı hazırlayan Senatör Scott Wiener, vetonun şirketlerin herhangi bir hükümet denetimi olmaksızın “son derece güçlü bir teknoloji” geliştirmeye devam etmelerine izin verdiğini söyledi.

Tasarı, en gelişmiş yapay zeka modellerinin güvenlik testlerinden geçmesini gerektiriyordu.

Geliştiricileri, teknolojilerinin sözde bir “kill switch” içermesini sağlamaya zorlayacaktı. Bu, kuruluşların bir tehdit haline gelmesi durumunda bir YZ sistemini izole etmesine ve etkili bir şekilde kapatmasına olanak tanıyacaktı.

Ayrıca, “Sınır Modelleri” olarak adlandırılan ya da en güçlü YZ sistemlerinin geliştirilmesi için resmi gözetimi zorunlu hale getirecekti.

Newsom yaptığı açıklamada, tasarının “bir Al sisteminin yüksek riskli ortamlarda konuşlandırılıp konuşlandırılmadığını, kritik karar verme veya hassas verilerin kullanımını içerip içermediğini dikkate almadığını” söyledi.

“Bunun yerine, tasarı en temel işlevlere bile katı standartlar uyguluyor - yeter ki büyük bir sistem onu kullansın” diye ekledi.

Newsom aynı zamanda halkı yapay zekanın risklerinden korumaya yönelik planlarını açıkladı ve önde gelen uzmanlardan teknoloji için koruma önlemleri geliştirmelerine yardımcı olmalarını istedi.

Son birkaç hafta içinde Newsom, yanlış bilgilendirmeyi ve üretken yapay zeka kullanılarak oluşturulan görüntü, video veya ses içeriğini içeren sözde derin sahtecilikleri engellemeyi amaçlayan mevzuat da dahil olmak üzere 17 yasa tasarısını imzaladı.

Kaliforniya, ChatGPT üreticisi OpenAI dahil olmak üzere dünyanın en büyük ve en gelişmiş yapay zeka şirketlerinin çoğuna ev sahipliği yapıyor.

Eyaletin dünyanın en büyük teknoloji firmalarının birçoğu için bir merkez olma rolü, sektörü düzenleyen herhangi bir tasarının endüstri üzerinde büyük bir ulusal ve küresel etkiye sahip olacağı anlamına geliyor.

Wiener, tasarıyı veto etme kararının yapay zeka şirketlerine “özellikle de Kongre'nin teknoloji endüstrisini anlamlı bir şekilde düzenleme konusunda devam eden felci göz önüne alındığında, ABD politika yapıcılarından hiçbir bağlayıcı kısıtlama getirmediğini” söyledi.

Kongre'nin YZ'ye koruma önlemleri getirme çabaları durdu.

OpenAI, Google ve Meta, tasarıya karşı çıkan ve bunun çok önemli bir teknolojinin gelişimini engelleyeceği uyarısında bulunan birkaç büyük teknoloji firması arasında yer aldı.

Counterpoint Research'te kıdemli bir analist olan Wei Sun şunları söyledi: “Genel amaçlı bir teknoloji olarak yapay zeka henüz erken aşamalarında, bu nedenle önerildiği gibi teknolojinin kendisini kısıtlamak erken.

“Bunun yerine, gelecekte zarara yol açabilecek belirli uygulama senaryolarını düzenlemek daha faydalı olacaktır” dedi.

‍