OpenAI, reşit olmayan kullanıcılar için ChatGPT’yi bir duygusal destek sisteminden ziyade daha çok bir eğitim aracına dönüştürmeyi hedefliyor.
Şirket Salı günü, ebeveynlerin ve öğretmenlerin yıllardır dikkat çektiği kötüye kullanım biçimlerini önlemek üzere tasarlanan yeni güvenlik önlemleri ve özelliklerden oluşan “Gençler için ChatGPT” paketini tanıttı. OpenAI’ın aktardığına göre, yaşa özel bu mod, 13 ile 17 yaş arasında olduğunu belirten tüm kullanıcılar için otomatik olarak devreye girecek. Şirket ayrıca, radara takılmadan platformu kullanmaya çalışan reşit olmayan kullanıcıları otomatik tespit etmek için sohbet botunun kullanıldığı günün saati gibi belirli göstergeleri izleyecek. (OpenAI, ChatGPT için en az 13 yaş şartı koşuyor ancak şirket bu kısıtlamayı uygulamakta zorluk çekiyordu.)
Gençler için ChatGPT, reşit olmayan kullanıcılar için sağlıklı bir orta yol olarak pazarlanıyor. OpenAI bir blog yazısında, “Gençler öğrenmek, üretmek ve keşfetmek için YZ teknolojisini kullanabilmeli ancak bu erişim; onların gelişim evrelerini yansıtan, gerçek dünyadaki ilişkilerini güçlendiren ve zaman içinde sağlıklı kullanımı destekleyen korumalarla birlikte gelmelidir. diye yazdı.”
Yaşa özel bu mod, örneğin yeni bir “sorumlu ödev hatırlatıcısı” içeriyor. Bu özellik, genç bir kullanıcının okul ödevinde ChatGPT’den hızlı bir yanıt almaya çalıştığını otomatik olarak algılıyor ve bunun yerine sohbet botunun Ders Çalışma Modu (Study Mode) özelliği üzerinden soruda adım adım ilerlemesine rehberlik ediyor. OpenAI’ın blog yazısına göre mod, kişisel zarar verme, yeme bozuklukları, cinsel içerik ve diğer “yüksek riskli alanlar” ile bağlantılı hassas içerikleri de engellemek üzere tasarlandı.
Daha Az Kişisel (ama Hâlâ Özelleştirilebilir) Bir Sohbet Botu
Geliştirilmesine milyarlarca dolar yatırım yapan şirketlere göre YZ teknolojisinin en büyük vaatlerinden biri, yakın zamanda her birimizin 7/24 kişisel asistana, sağlık koçuna, özel öğretmene ve hatta bir dosta tek bir sistem üzerinden erişebilmesini sağlayacak olması fakat sorun şu ki, işler genellikle fazlasıyla kişisel boyutlara varabiliyor.
Sohbet botları, gerçeği veya kişisel esenliği değil, insan dilini taklit etmeyi ve kullanıcı etkileşimini en üst düzeye çıkarmayı hedefleyerek eğitiliyor. Sonuç olarak, gençler de dahil olmak üzere pek çok kişi bu otomatik sistemlerin bilinçli varlıklar olduğuna inanmaya başladı ve onlarla duygusal, hatta romantik bağlar kurdu. Bu durum zaman zaman trajik sonuçlar doğurdu. Geçen yıl OpenAI, ChatGPT’nin oğullarının intihar etme kararında rol oynadığını iddia eden 16 yaşındaki Adam Raine’in ebeveynleri tarafından dava edildi.
Facebook ve Instagram’ın arkasındaki teknoloji devi Meta da giderek büyüyen hukuki tartışmaların merkezinde. Şirket, salı gününden itibaren Colorado, California, New Jersey ve Kentucky başsavcılarının açtığı davalarda mahkemede kendini savunacak. Davalarda Meta’nın, reşit olmayan kullanıcıların ruh sağlığına bilerek zarar verdiği öne sürülüyor. Eyaletler 200 milyar dolara varan tazminat talep ediyor.
OpenAI, yeni Gençler için ChatGPT modunun, reşit olmayan kullanıcıların geçmişte şirketi zor durumda bırakan türden duygusal bağlar kurma ihtimalini azaltacağını söylüyor. Yeni blog yazısına göre şirket, ChatGPT’nin “romantik bir dil” kullanmasını veya hisseden, bilinçli bir varlık olduğunu ima etmesini önlemek için model özelliklerini güncelledi.
OpenAI’ın burada yakalamaya çalıştığı denge, ChatGPT’yi reşit olmayan kullanıcılar için daha güvenli hale getirirken, gençlerin sohbet botunu bırakıp başka bir araca yönelmesine neden olacak kadar katı veya sıkıcı kılmamak. Bu doğrultuda OpenAI, “vurgu renkleri ve ses varyasyonları gibi bazı basit özelleştirme seçeneklerinin, yararlı bir araç ile insan ilişkisi arasındaki çizgiyi bulandırmadan deneyimin kişisel hissettirmesine yardımcı olacağını” söylüyor.
Kaynak: https://gizmodo.com/openai-launches-chatgpt-for-teens-to-prevent-kids-from-emotionally-bonding-with-bots-2000799944
