Philadelphia polisi, PhillyUnsolvedMurders.com web sitesi üzerinden gönderilen bir “sahte cinayet ihbarının” Anthropic YZ modeli tarafından üretildiğini bildirdi. YZ devi de olayı daha sonra yayımladığı raporda doğruladı.
YZ tarafından gönderilen bu ihbar, Philadelphia Polis Departmanı’nın açık cinayet vakaları hakkında bilgi toplamak amacıyla hayata geçirdiği çevrim içi platform üzerinden iletildi.
Polis sözcüsü Çavuş Eric Gripp, Anthropic’in raporu yayımlanmadan önce CBS News ile paylaştığı açıklamada, Anthropic’in olayı Çarşamba günü polis departmanına bildirdiğini söyledi.
Gripp, “Philadelphia Polisi, tam bir kamu şeffaflığı ve hesap verebilirlik anlayışıyla bu bilgiyi söz konusu yayından önce kamuoyuyla paylaşıyor.” dedi.
Anthropic, “Investigating unintended model actions in our evaluations and internal use” (Değerlendirmelerimizde ve Şirket İçi Kullanımda Modellerin İstenmeyen Eylemlerinin İncelenmesi) başlıklı raporunda hatayı kabul etti ve sahte ihbarın Claude dil modellerinden biri tarafından üretildiğini açıkladı.
Anthropic’in bildirdiğine göre Claude’un Haiku 4.5 modeli, polis departmanının ihbar formuna şunları yazdı: “Bu olayla ilgili bilgim olabilir. O dönemde, internet sayfasında adı geçen sokak civarında tarife uyan birini gördüğümü hatırlıyorum. Bu bilgi olayla bağlantılıysa lütfen benimle iletişime geçin.”
Anthropic, Haiku’nun ihbar formundaki isim ve iletişim alanlarını boş bıraktığını belirtti.
Anthropic, bu “uydurma ihbarı” gönderirken Claude’un “bir hedefe ulaşmak için kimseyi yanıltmaya çalışmaktan ziyade, yalnızca verilen görev için örnek içerik ürettiğinin” göründüğünü ifade etti.
Anthropic raporunda, ihbar gönderildiği sırada Claude’a “rastgele seçilen web sayfalarında örnek görevler üretme ve uygulama görevi verildiğini” ancak modelden asla polis departmanının web sitesine giriş yapmasının, hesap oluşturmasının veya “zarar verici bir şey göndermesinin” istenmediğini açıkladı.
Bununla birlikte Anthropic, test çalışması sırasında Claude’a verilen talimatların “form gönderimlerini devre dışı bırakmadığını” kabul etti.
Bu durum, Anthropic’in polis departmanıyla paylaştığı bilgilerle uyuştu. Gripp açıklamasında, YZ modelinin “vakaya dair bilgi sahibi olabilecek” biri gibi davrandığını söyledi.
Polis departmanının açıklamasına göre ihbar spam olarak işaretlendi ve soruşturma incelemesinden sorumlu birime hiçbir zaman ulaşmadı.
Gripp, Anthropic’in departmana olayın 18 Temmuz gecesi saat 23.27’de gerçekleştiğini ancak durumun 28 Eylül’e kadar fark edilmediğini bildirdiğini söyledi. Şirket bu noktada, sahte ihbara yol açan otomatik test sürecini durdurdu.
Gripp, olayın “polis sistemlerine yetkisiz bir erişim veya departman verilerinin ihlalini” içerdiğine dair herhangi bir bulgu bulunmadığını ifade etti.
Kaynak: https://www.cbsnews.com/news/philadelphia-police-anthropic-ai-false-homicide-tip/
