OpenAI, yapay zeka yazılarını tespit etmek ve işaretlemek için bir araç geliştirdi.

OpenAI'nin ChatGPT'si kendisine sorulan herhangi bir metni yazabilir, yeniden yazabilir, başka kelimelerle ifade edebilir. Yapay zeka tarafından üretilen içerik birçok kişiye zaman kazandırsa da, bu araç öğrenciler ve öğrenme söz konusu olduğunda kötü bir şöhrete sahip. OpenAI'nin ChatGPT'si başlangıcından bu yana endişe konusu olmuştur. Öğrencilerin yapay zekayı kopya çekmek için kullandığına dair tartışmalar yaygınlaştı. Peki ya OpenAI, yapay zekası tarafından yazılan metinleri tespit etmenin bir yolu olduğunu söylerse? OpenAI, birisinin yazmak için ChatGPT kullandığını tespit edebilecek bir yönteme sahip. Wall Street Journal'a göre, kurtarıcı araç yaklaşık bir yıldır piyasaya sürülmeye hazır. Ancak OpenAI henüz yeşil ışık yakmaya hazır değil gibi görünüyor.

Rapor, bu aracın yayınlanmasındaki gecikmenin yalnızca kullanıcıları çekmek ve elde tutmak için olduğunu öne sürüyor. Şirketin sadık ChatGPT kullanıcılarıyla yaptığı bir anket, neredeyse üçte birinin hile karşıtı teknoloji tarafından kapatılacağını ortaya koydu. Kar amacı gütmeyen bir teknoloji politikası kuruluşu olan Center for Democracy and Technology de ortaokul ve lise öğretmenlerinin yüzde 59'unun bazı öğrencilerin okul ödevlerine yardımcı olması için yapay zeka kullandığından emin olduğunu ve bu oranın bir önceki öğretim yılına göre 17 puan arttığını tespit etti.

Wall Street Journal'ın bir OpenAI sözcüsünden aktardığı habere göre, hile karşıtı aracı gizli tutma kararının nedeni, birkaç risk faktörüne sahip ve karmaşık olması. Karmaşıklıklar göz önüne alındığında, lansman muhtemelen OpenAI'nin ötesinde daha geniş bir ekosistemi etkileyecektir.

OpenAI'nin hile karşıtı aracı, ChatGPT'nin metin oluşturmak için kelimeleri veya kelime parçalarını (belirteçleri) seçme şeklini değiştirir. Bu değişiklik, oluşturulan metne filigran olarak bilinen ince bir desen ekleyerek olası hile veya kötüye kullanımın tespit edilmesini sağlayacaktır.

Filigranlar insanlar tarafından tespit edilemese de OpenAI'nin tespit teknolojisi tarafından tanınabilecektir. Bir belgenin veya bölümün ChatGPT tarafından oluşturulma olasılığını belirtmek için bir puan atar. Bu puan, içeriğin AI modeli tarafından oluşturulma olasılığının bir göstergesi olarak hizmet edecektir.

Dahili belgeler filigran tekniğinin neredeyse kusursuz olduğunu ve yüzde 99,9'luk bir etkinlik oranına ulaştığını ortaya koyuyor. Ancak bu kusursuzluk yalnızca ChatGPT önemli miktarda yeni metin ürettiğinde, yapay zeka tarafından oluşturulan içeriğin doğru bir şekilde tanımlanmasını sağlıyor.

O zaman bile, filigranların Google'ın metni başka bir dile çevirip sonra geri çevirmesi ya da ChatGPT'nin metne emojiler eklemesi ve sonra bunları manuel olarak silmesi gibi başka tekniklerle silinebileceği endişeleri devam etmektedir.

Ancak rapora göre asıl mesele, eğer yayınlanırsa ve yayınlandığında bu aracı kimlerin kullanabileceği. Eğer çok az kişi bu araca sahip olursa, araç kullanışlı olmayacaktır. Eğer çok fazla kişi erişebilirse, kötü niyetli kişiler şirketin filigran tekniğini deşifre edebilir.

Ancak bu sadece metin için geçerli. OpenAI, yapay zeka tarafından üretilen multimedya içeriğinin deepfake gibi metin tabanlı içeriğe kıyasla potansiyel olarak daha ciddi sonuçları olması nedeniyle metin yerine ses ve görsel içerik için filigran teknolojileri geliştirmeye odaklanmıştır.