Meta, Deepfake videoları tespit etmek için içeriklere filigran ekliyor.

Meta, yapay zeka ile üretilen video klipleri tespit etmek ve orijinalliği korumak amacıyla yeni bir araç olan Video Seal'i duyurdu. Bu açık kaynaklı araç, video içeriklerinin filigranlanmasını sağlayarak, özellikle deepfake videolarıyla mücadele etmeyi hedefliyor. Video Seal, Meta'nın diğer filigran araçları olan Watermark Anything ve Audio Seal ile birlikte çalışarak, videolarda algılanamayan filigranlar ekliyor.

Bu araç, mevcut video filigranlama çözümlerinin yetersiz kaldığı noktalarda devreye giriyor. Meta'nın yapay zeka araştırma bilimcisi Pierre Fernandez'e göre, diğer araçlar video sıkıştırma gibi yaygın düzenlemelere karşı dayanıklı değil ve verimli bir şekilde ölçeklenemiyor. Video Seal, sıkıştırma, bulanıklaştırma ve kırpma gibi düzenlemelere karşı dayanıklı olmayı vaat ediyor. Ayrıca, videolara gizli bir mesaj ekleyerek, videoların kökenlerinin daha sonra tespit edilmesini sağlıyor.

Ancak, Video Seal'in bazı sınırlamaları da bulunuyor. Filigranın algılanabilirliği ile manipülasyona karşı dayanıklılığı arasında bir denge kurmak zor; yoğun sıkıştırma ve düzenlemeler filigranları etkileyebilir. Meta, Meta Omni Seal Bench adlı halka açık bir liderlik tablosu başlatarak bu teknolojinin performansını karşılaştırmayı ve daha fazla yapay zeka araştırmacısının filigran kullanmasını teşvik etmeyi amaçlıyor.

Bu çözüm, deepfake gibi yapay zeka tarafından üretilen içeriklere karşı daha güvenli bir çevrimiçi ortam sağlamayı hedefliyor.