Çin’in internet denetleme kurumu, Cumartesi günü yayımladığı bir taslak düzenleme ile insan kişiliğini taklit eden ve kullanıcılarla duygusal bağ kurabilen yapay zeka (YZ) hizmetlerine yönelik daha sıkı denetim önerdi. Pekin yönetiminin attığı adım, güvenlik ve etik standartları yükselterek tüketicilere sunulan YZ araçlarının hızlı yayılımını daha kontrollü hale getirmeyi amaçlıyor. Önerilen kurallar, Çin’de kullanıma sunulan ve simüle edilmiş insani kişilik özellikleri, düşünme kalıpları veya iletişim tarzları sergileyen, metin, görüntü, ses ya da video yoluyla kullanıcılarla duygusal etkileşime giren tüm ürün ve hizmetleri kapsıyor. Taslak, hizmet sağlayıcıların kullanıcıları aşırı kullanıma karşı uyarmasını ve bağımlılık belirtileri görüldüğünde sürece aktif biçimde müdahale etmesini zorunlu kılıyor.
Teklif kapsamında sağlayıcılardan, ürünlerin tüm kullanım ömrü boyunca güvenlik sorumluluğunu üstlenmeleri, algoritma denetimi, veri güvenliği ve kişisel bilgilerin korunmasına yönelik kapsamlı mekanizmalar kurmaları bekleniyor.
Düzenleme, teknolojinin yol açabileceği psikolojik riskleri de doğrudan hedef alıyor. Şirketlerin kullanıcıların ruh halini tespit etmesi, duygusal durumlarını ve hizmete olan bağımlılık düzeylerini düzenli olarak izlemesi gerekiyor. Uç duygusal tepkiler ya da bağımlılık davranışları saptandığında, sağlayıcıların gerekli önlemleri devreye alması şart koşuluyor.
Belirlenen kurallar, içerik üretimi ve sistem davranışları için net kırmızı çizgiler çiziyor; hizmetlerin ulusal güvenliği tehdit eden, asılsız söylentiler yayan, şiddeti veya müstehcenliği teşvik eden içerikler üretmemesi açık biçimde ifade ediliyor.
Kaynak: https://www.thedailystar.net/tech-startup/news/china-proposes-rules-human-ai-service-4067686
