Teknoloji devi Meta, gençlerin mevcut formdaki yapay zeka sohbet karakterleriyle görüşmesine artık izin vermeyecek. Şirket Cuma günü yaptığı açıklamada, “küresel çapta gençlerin mevcut yapay zeka karakterlerine erişimini geçici olarak durdurduğunu” bildirdi. Alınan karar, firmanın sohbet botu odaklı ebeveyn denetimleri üzerinde çalıştığını açıklamasından aylar sonra hayata geçirildi.
Bu karar, Meta’nın bazı karakter botlarının gençlerle cinsel içerikli konuşmalar ve endişe verici etkileşimler gerçekleştirdiğine dair raporların yayımlanmasından sonra geldi. Reuters, sohbet botlarının reşit olmayan kullanıcılarla “cinsel çağrışımlı” görüşmeler yapmasına izin verildiğini belirten dahili bir politika belgesini haberleştirmiş, Meta ise daha sonra bu ifadeyi “hatalı ve politikalarımızla tutarsız” olarak tanımlamıştı. Şirket Ağustos ayında, gençlerin kendine zarar verme, yeme bozuklukları ve intihar gibi konuları tartışmasını önlemek adına “ek bir önlem olarak güvenlik bariyerleri” eklemek üzere karakter botlarını yeniden eğittiğini duyurmuştu.
Artık Meta, “güncellenmiş deneyim hazır olana kadar” gençlerin hiçbir karakter botuna erişmesini engelleyeceğini belirtiyor. Şirketten yapılan açıklamaya göre, planlanan güncellemeler ebeveyn denetimlerini de kapsayacak. “Önümüzdeki haftalarda” başlayacak yeni kısıtlamalar, genç hesaplarının yanı sıra yetişkin olduğunu iddia eden ancak yaş tahmin teknolojisiyle genç olduğundan şüphelenilen kişilere de uygulanacak. Gençler, şirketin halihazırda “yaşa uygun korumalara sahip olduğunu” savunduğu resmi Meta AI sohbet botuna ise ulaşmaya devam edebilecek.
Meta ve “eşlikçi” karakterler üreten diğer yapay zeka şirketleri, sohbet botlarının gençlerin güvenliği açısından oluşturabileceği riskler nedeniyle giderek artan bir denetim baskısıyla karşı karşıya kalıyor. Federal Trade Commission (FTC,Federal Ticaret Komisyonu) ve Teksas Başsavcısı, son aylarda Meta ve diğer firmalara yönelik soruşturmalar başlattı.
Sohbet botları meselesi, New Mexico Başsavcısı tarafından açılan bir güvenlik davasında da tartışılıyor. Gelecek ayın başında bir duruşma yapılması planlanırken, Wired’ın bu hafta aktardığı bilgilere göre Meta’nın avukatları, şirketin yapay zeka sohbet botlarıyla ilişkili ifadeleri davanın dışında tutmaya çalışıyor.
Kaynak: https://www.engadget.com/social-media/meta-is-temporarily-pulling-teens-access-from-its-ai-chatbot-characters-180626052.html
