OpenAI, yetişkin kullanıcıların ruh sağlığı ve güvenlik endişeleri için bir acil durum kişisi atamasına olanak tanıyan isteğe bağlı bir güvenlik özelliğini kullanıma sunuyor. OpenAI, bir kullanıcının YZ sohbet robotuyla kendine zarar verme veya int*har gibi konuları görüştüğünü tespit ederse; “Trusted Contact” (Güvenilir Kişi) olarak atanan arkadaşlar, aile üyeleri veya bakıcılar bilgilendirilecek.
OpenAI duyurusunda, “Trusted Contact, uzmanlarca onaylanmış basit bir temel üzerine tasarlandı: Birisi kriz anında olduğunda, tanıdığı ve güvendiği biriyle bağ kurmak anlamlı bir fark yaratabilir. Bu özellik, ChatGPT’de zaten mevcut olan yerel yardım hatlarının yanı sıra başka bir destek katmanı sunuyor” dedi.
Trusted Contact özelliği isteğe bağlı olarak kullanılıyor. Herhangi bir yetişkin ChatGPT kullanıcısı, hesap ayarlarından başka bir yetişkinin (küresel olarak 18+, Güney Kore’de 19+ yaş) iletişim bilgilerini ekleyerek özelliği etkinleştirebiliyor. Trusted Contact olarak seçilen kişinin, talebi aldıktan sonra bir hafta içinde daveti kabul etmesi gerekiyor. Kullanıcılar seçtikleri kişiyi ayarlardan kaldırabiliyor veya düzenleyebiliyor; Trusted Contact da dilediği zaman kendini listeden çıkarabiliyor.
OpenAI, bildirimin “kasıtlı olarak sınırlandırıldığını” ve sohbet detaylarını veya dökümlerini paylaşmayacağını belirtiyor. Otomatik sistemler bir kullanıcının kendine zarar vermekten bahsettiğini saptarsa ChatGPT, kullanıcıyı Trusted Contact kişisine ulaşmaya teşvik edecek ve bu kişinin bilgilendirilebileceğini bildirecek. OpenAI’a göre, “özel eğitimli kişilerden oluşan küçük bir ekip” durumu inceleyecek ve ciddi bir güvenlik endişesi saptanırsa ChatGPT, Trusted Contact kişisine kısa bir e-posta, kısa mesaj veya uygulama içi bildirim gönderecek.
Bu yenilik, 16 yaşındaki bir gencin aylarca ChatGPT’ye içini döktükten sonra canına kıyması üzerine Eylül ayında sunulan acil durum kişisi özelliğinin üzerine inşa ediliyor. Meta da çocukların Instagram’da “tekrar tekrar” kendine zarar verme konularını araması durumunda ebeveynleri uyaran benzer bir özelliği devreye aldı.
Kaynak: https://www.theverge.com/ai-artificial-intelligence/925874/chatgpt-trusted-contact-emergency-self-harm-notification
