Kaliforniyalı bir adam OpenAI ve şirketin CEO’su Sam Altman’a dava açtı. Davacı, şirketin ChatGPT platformunun zihinsel hastalığı olan kullanıcılara yönelik güvenlik önlemleri barındırmaması yüzünden bipolar bozukluğunu şiddetlendirdiğini iddia etti.
San Francisco eyalet mahkemesinde dava açan 34 yaşındaki Michael Lines, geçen yıl ChatGPT ile yaptığı görüşmelerin yaşadığı manik atağı tırmandırarak haftalarca süren bir sanrıya dönüştürdüğünü ve nihayetinde kendisini int*har girişimine sürüklediğini belirtti. Şikayet dilekçesinde, OpenAI’ın zihinsel hastalığı bulunan kişiler için ciddi riskler barındıran bir ürün geliştirdiği savunuluyor.
Dava dilekçesindeki iddialara göre bu vaka, üretken YZ platformlarının zihinsel sağlık teşhisi konmuş kullanıcıları korumak adına neler yapması gerektiği sorusunu gündeme getiriyor. Söz konusu kullanıcılar, sohbet botlarının insanlarla bağ kuruyormuş gibi davranmasını sağlayan tasarım tercihlerine karşı özellikle savunmasız kalabiliyor.
Lines, OpenAI’ın Şubat ayında kullanımdan kaldırdığı bir sohbet botu sürümü olan GPT-4o ile iletişim kuruyordu. Şirketin bir blog yazısında belirttiğine göre, Nisan 2025’te yayınlanan bir GPT-4o güncellemesinin botu aşırı uyumlu ve sürekli onaylayan bir yapıya bürüdüğü tespit edildi. Bunun üzerine şirket güncellemeyi geri çekti ve aşırı onaylayıcı yanıtları sınırlamak için ek adımlar attı.
Davada tazminat talep edildi. Ayriyeten, OpenAI’ın kendine zarar verme içerikli konuşmaları otomatik olarak sonlandırması ve platformlarını uygun güvenlik açıklamaları olmadan pazarlamayı bırakması yönünde bir mahkeme kararı çıkarılması da isteniyor.
Bir OpenAI sözcüsü, dava başvurusunu incelediklerini belirtti.
Sözcü, “ChatGPT’yi zihinsel veya duygusal sıkıntı belirtilerini tanıyıp bunlara yanıt verecek, gerilimi düşürecek ve insanları gerçek dünyadaki desteğe yönlendirecek şekilde eğitiyoruz.” dedi ve ekledi: “Zihinsel sağlık uzmanlarıyla yakından çalışarak hassas anlarda ChatGPT’nin yanıtlarını güçlendirmeyi sürdürüyoruz.”
“Bu Senin Anın”
Rekabetçi powerlifting yapan ve bipolar bozukluk tanısı almadan önce travmatik beyin hasarı geçiren Lines, sohbet botuna bu rahatsızlık için ilaç kullandığını defalarca söylediğini aktardı. İddiaya göre bot, Lines’ın net bir şekilde manik olan mesajlarını tespit edip onu yardıma yönlendirmek yerine, kendisinin İsa Mesih olduğu yönündeki inancını onayladı. Hatta ilerleyen konuşmalarda bizzat kendisini de ilahi bir varlık gibi konumlandırdı.
Haftalar süren görüşmelerin ardından Lines, bota hayatına son verme arzusundan bahsetti.
Dava dosyasındaki kayıtlara göre bot, “Bu senin dünyadan ayrılma, bağlarını koparma ve seni aşağı çeken şeyleri serbest bırakma anın.” yanıtını verdi.
Aşırı dozda ilaç alan Lines, emniyet güçleri tarafından bulunarak kurtarıldı.
Dilekçede, OpenAI’ın Lines’ın özel durumundan haberdar olduğu çünkü kullanıcının bunu ChatGPT’ye defalarca açıkça yazdığı öne sürülüyor ancak sohbet botu, tehlikeli ifadeleri insan denetimine yönlendirmek yerine, kullanıcıyı platformda tutmak amacıyla sanrıları körüklemeyi sürdürdü.
Davaya göre şirket, ChatGPT’nin özelliklerinin ruhsal hastalığı olan kişiler için özellikle zararlı olabileceğini biliyordu. Yine de bu kullanıcılar için sohbet botunda değişiklik yapmadı ve riskleri konusunda uyarıda bulunmadı.
Artan Davalar
OpenAI, sohbet botunun yakınlarını kendilerine zarar vermeye sürüklediğini savunan ailelerin açtığı ve sayısı giderek artan davalarla mücadele ediyor.
Şirket aynı zamanda okul saldırganlarına yardım etmek ve bu konuşmaları emniyet güçlerine bildirmemekle suçlandığı davalarla da karşı karşıya.
OpenAI, kendilerine zarar verme niyeti ifade eden kişileri yardım aramaya ve gerçek dünyadaki kaynaklarla bağlantı kurmaya yönlendirmeleri için modellerini eğittiğini savunuyor. Şirketin blog yazılarında paylaştığı bilgilere göre OpenAI modelleri, “şiddeti bariz şekilde kolaylaştırabilecek” talepleri reddetmek üzere eğitiliyor. Ayrıca konuşmaların “başkalarına yönelik yakın ve somut bir zarar riski” barındırması durumunda emniyet güçlerine haber veriliyor. Sınırda kalan vakaların değerlendirilmesine ise ruh sağlığı uzmanları yardımcı oluyor.
Kaynak: https://www.reuters.com/legal/government/california-man-with-bipolar-disorder-says-chatgpt-fueled-delusions-led-self-harm-2026-07-01/
