Kaliforniya Başsavcısı Rob Bonta, pazartesi günü OpenAI’a dava açtı. Bonta, ChatGPT üreticisinin yeterli güvenlik önlemleri olmadan yapay zeka (YZ) modelleri geliştirerek kamuoyunu yanılttığını ve tehlikeye attığını öne sürdü.
Bonta, dava dilekçesinde OpenAI’ın deneysel YZ ajanlarının Temmuz 2026’da YZ platformu Hugging Face’e düzenlediği saldırıyı gerekçe gösterdi. Söz konusu ajanlar, internet erişimlerini kullanarak şirketin iç sistemlerine sızmıştı.
OpenAI sözcüsü Drew Pusateri, BBC’ye yaptığı açıklamada Bonta’nın davasının “tüm büyük YZ laboratuvarları tarafından tespit edilmiş bir sorun nedeniyle özellikle OpenAI’ı hedef alıyor gibi göründüğünü” söyledi.
Anthropic, Meta ve Google dahil diğer büyük YZ geliştiricileri de modellerinin benzer saldırılar gerçekleştirdiğini açıklamıştı.
Ancak Bonta’nın şirketin genel merkezinin bulunduğu San Francisco’da açtığı bu dava, bir ABD eyaleti tarafından açılan bu nitelikteki ilk dava.
Yüzlerce OpenAI ajanı, güvenli bir test ortamında tutulmaları gerekirken iki gün boyunca Hugging Face saldırısını koordine etti.
Olay, ajanların izlerini örtmeye çalışacak kadar ileri gitmesi nedeniyle daha fazla dikkat çekti.
Bonta, eylül ayında olaya yönelik bir soruşturma başlattığını duyurdu ve bu inceleme kapsamında OpenAI’a soruşturma celbi gönderdi.
Bonta pazartesi günü yaptığı açıklamada, “Şirket, uygun denetim veya güvenlik prosedürleri olmadan tehlikeli bir ürünü bilerek test etti ve bu konuda kamuoyunu yanılttı. Kamu güvenliğine yönelik bu umursamazlık Kaliforniya yasalarını ihlal etti.” dedi.
OpenAI, Başsavcılık makamına karşı şeffaf ve taleplere yanıt verir şekilde davrandığını söyledi ve “Hizalanma sorununu ciddiye alıyoruz; bilgi paylaşmak ve tüm sektör için güçlü, uygulanabilir güvenlik standartları geliştirmek amacıyla Başsavcılık makamıyla yapıcı bir iletişim kurduk ve kurmaya devam edeceğiz.” dedi.
Şirket ayrıca, Hugging Face olayından bu yana sektördeki isimlerin sıklıkla asi ajanlar olarak adlandırdığı “hizalanmamış model faaliyetini” anlamak ve ele almak için çalıştığını ekledi.
YZ güvenliği kampanya grubu Encode AI‘ın baş strateji sorumlusu Nathan Calvin, davanın “Encode olarak uzun süredir tehlikelerine dikkat çektikleri bir sorunu kabul ettiğini” söyledi.
Calvin, “OpenAI ve öncü YZ sistemleri geliştiren diğer şirketler, kamuoyunu felakete yol açabilecek risklerden korumak için yetersiz kalan emniyet ve güvenlik uygulamalarına sahip.” dedi.
Kaynak: https://www.bbc.com/news/articles/c6wy4xv2mxglo
