Microsoft, OpenAI, Google ve diğerleri seçimle ilgili derin sahtekarlıklarla mücadele konusunda anlaştı

20 teknoloji şirketinden oluşan bir koalisyon, 40'tan fazla ülkede gerçekleşecek 2024 kritik seçimlerinde AI deepfake'lerinin önlenmesine yardımcı olmak amacıyla Cuma günü bir anlaşma imzaladı. OpenAI, Google, Meta, Amazon, Adobe ve X, yapay zeka tarafından oluşturulan ve seçmenleri etkileyebilecek içeriği önlemek ve bunlarla mücadele etmek için anlaşmaya katılan şirketler arasında yer alıyor. Ancak anlaşmanın muğlak dili ve bağlayıcı bir uygulama eksikliği, anlaşmanın yeterince ileri gidip gitmediği sorusunu gündeme getiriyor.

"2024 Seçimlerinde Yapay Zekanın Aldatıcı Kullanımıyla Mücadeleye Yönelik Teknoloji Anlaşması"nı imzalayan şirketlerin listesi, yapay zeka modellerini oluşturup dağıtanların yanı sıra deepfake'lerin ortaya çıkma ihtimalinin yüksek olduğu sosyal platformları da içeriyor. İmzacılar şunlardır: Adobe, Amazon, Anthropic, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap Inc., Stability AI, TikTok, Trend Micro, Truepic ve X (eski adıyla Twitter) ).

Grup, anlaşmayı "seçmenleri aldatmak amacıyla yapay zeka tarafından oluşturulan zararlı içeriğe karşı teknolojinin uygulanmasına yönelik bir dizi taahhüt" olarak tanımlıyor. İmzacılar aşağıdaki sekiz taahhüdü kabul ettiler:

• Aldatıcı Yapay Zeka Seçim içeriğiyle ilgili riskleri azaltmak için, uygun olduğu durumlarda açık kaynak araçları da dahil olmak üzere teknoloji geliştirmek ve uygulamak
• Yanıltıcı Yapay Zeka Seçim İçeriğiyle ilgili olarak sunabilecekleri riskleri anlamak için bu anlaşma kapsamındaki modellerin değerlendirilmesi
• Bu içeriğin platformlarındaki dağıtımını tespit etmeye çalışıyoruz
• Platformlarında tespit edilen bu içeriği uygun şekilde ele almaya çalışmak
• Aldatıcı yapay zeka seçim içeriğine karşı sektörler arası dayanıklılığın artırılması
• Şirketin konuyu nasıl ele aldığı konusunda kamuoyuna şeffaflık sağlamak
• Çeşitli küresel sivil toplum kuruluşları ve akademisyenlerle etkileşime devam etmekKamuoyunun farkındalığını, medya okuryazarlığını ve tüm toplumun dayanıklılığını artırmaya yönelik çabaları desteklemek

Anlaşma yapay zeka tarafından oluşturulan ses, video ve görüntülere uygulanacak. Bu, "siyasi adayların, seçim yetkililerinin ve demokratik bir seçimdeki diğer önemli paydaşların görünüşünü, sesini veya eylemlerini aldatıcı bir şekilde taklit eden veya değiştiren veya seçmenlere ne zaman, nerede ve nasıl oy verebilecekleri konusunda yanlış bilgi veren" içeriği ele alıyor. ”

İmzacılar, deepfake'lerin çevrimiçi dağıtımını tespit etmek ve ele almak için araçlar oluşturmak ve paylaşmak üzere birlikte çalışacaklarını söylüyor. Ayrıca eğitici kampanyalar yürütmeyi ve kullanıcılara "şeffaflık sağlamayı" planlıyorlar.

OpenAI CEO'su Sam Altman, 18 Ocak 2024'te Davos'ta düzenlenen Dünya Ekonomik Forumu (WEF) toplantısı sırasında jest yapıyor. (Fotoğraf: Fabrice COFFRINI / AFP) (Fotoğraf: FABRICE COFFRINI/AFP, Getty Images aracılığıyla)OpenAI CEO'su Sam Altman, 18 Ocak 2024'te Davos'ta düzenlenen Dünya Ekonomik Forumu (WEF) toplantısı sırasında jest yapıyor. (Fotoğraf: Fabrice COFFRINI / AFP) (Fotoğraf: FABRICE COFFRINI/AFP, Getty Images aracılığıyla)

OpenAI CEO'su Sam Altman (Getty Images aracılığıyla KUMAŞ COFFRINI) İmzacılardan biri olan OpenAI, geçen ay dünya çapında seçimle ilgili yanlış bilgileri bastırmayı planladığını söylemişti. Şirketin DALL-E 3 aracıyla oluşturulan görüntüler, yapay zeka tarafından oluşturulan resimler olarak kökenlerini netleştirmek için dijital filigran sağlayan bir sınıflandırıcıyla kodlanacak. ChatGPT yapımcısı aynı zamanda menşe sınıflandırıcısı hakkında geri bildirim almak için gazeteciler, araştırmacılar ve platformlarla birlikte çalışacağını söyledi. Ayrıca chatbotların adayların kimliğine bürünmesini engellemeyi de planlıyor.

OpenAI Küresel İşler Başkan Yardımcısı Anna Makanju, grubun ortak basın bülteninde şunları yazdı: "Kötüye kullanımı önleyen ve yapay zeka tarafından oluşturulan içerikle ilgili şeffaflığı artıran politikaları uygulayarak seçimlerin bütünlüğünü korumaya kararlıyız." Seçimlerin yanıltıcı yapay zeka kullanımına karşı korunmasına yardımcı olmak için dünya çapındaki sektör ortakları, sivil toplum liderleri ve hükümetlerle birlikte çalışmayı sabırsızlıkla bekliyoruz."

Şu anda en ikna edici sahte fotoğraflardan bazılarını üreten yapay zeka görüntü oluşturucuya (aynı adı taşıyan) sahip şirket Midjourney, listede özellikle yer almıyor. Ancak şirket bu ayın başında seçim sezonunda siyasi kuşakları tamamen yasaklamayı düşüneceğini açıklamıştı. Geçtiğimiz yıl Midjourney, Papa Benedict'in beklenmedik bir şekilde kabarık beyaz bir ceketle sokakta kasılarak yürüdüğü viral sahte bir görüntü oluşturmak için kullanıldı. Midjourney'in en yakın rakiplerinden biri olan Stability AI (açık kaynaklı Stable Diffusion'ın yaratıcıları) katıldı. Engadget, yokluğu hakkında yorum yapmak için Midjourney ile temasa geçti ve geri bildirim alırsak bu makaleyi güncelleyeceğiz.

Silikon Vadisi'nin "Beş Büyükleri" arasında yalnızca Apple yok. Ancak bu durum, iPhone üreticisinin henüz herhangi bir üretken yapay zeka ürünü piyasaya sürmemesi ve deepfake'lerin dağıtılabileceği bir sosyal medya platformuna ev sahipliği yapmaması ile açıklanabilir. Ne olursa olsun, açıklama almak için Apple Halkla İlişkiler ile iletişime geçtik ancak yayınlandığı sırada herhangi bir geri dönüş alamadık.

Her ne kadar 20 şirketin kabul ettiği genel ilkeler umut verici bir başlangıç ​​gibi görünse de, bağlayıcı yaptırımları olmayan gevşek bir dizi anlaşmanın, dünyanın kötü aktörlerinin kamuoyunu etkilemek için üretken yapay zekayı kullandığı bir kabus senaryosuyla mücadelede yeterli olup olmayacağını zaman gösterecek. ABD'de ve başka yerlerde agresif anti-demokratik adayları seçin.

İki Partili Politika Merkezi Seçim Projesi kıdemli direktör yardımcısı Rachel Orey, "Dil beklendiği kadar güçlü değil" dedi. Associated Press Cuma gününde. “Bence hak ettiği yerde kredi vermeliyiz ve şirketlerin araçlarının özgür ve adil seçimleri baltalamak için kullanılmamasında çıkarları olduğunu kabul etmeliyiz. Bununla birlikte, bu isteğe bağlıdır ve bunu takip edip etmeyeceklerine göz kulak olacağız."

Yapay zeka tarafından oluşturulan deepfake'ler ABD Başkanlık Seçimlerinde zaten kullanıldı. Nisan 2023 gibi erken bir tarihte Cumhuriyetçi Ulusal Komite (RNC), Başkan Joe Biden ve Başkan Yardımcısı Kamala Harris'in yapay zeka tarafından oluşturulan görsellerini kullanarak bir reklam yayınladı. O zamandan beri GOP ön seçimlerinden ayrılan Ron DeSantis'in kampanyası, Haziran 2023'te rakip ve muhtemelen aday olan Donald Trump'ın yapay zeka tarafından oluşturulan görselleriyle devam etti. Her ikisinde de, görüntülerin yapay zeka tarafından oluşturulduğuna dair gözden kaçırılması kolay sorumluluk reddi beyanları yer alıyordu.

BOSTON, AMERİKA BİRLEŞİK DEVLETLERİ - 2 ARALIK: Başkan Joe Biden, Senatör Muhterem Raphael Warnock'un (D-GA) yeniden seçim kampanyası için 2 Aralık 2022'de Boston, Massachusetts'te Uluslararası Elektrik İşçileri Kardeşliği'nin (IBEW) telefon bankacılığı etkinliğine katıldı.  (Fotoğraf: Nathan Posner/Anadolu Ajansı, Getty Images aracılığıyla)BOSTON, AMERİKA BİRLEŞİK DEVLETLERİ - 2 ARALIK: Başkan Joe Biden, Senatör Muhterem Raphael Warnock'un (D-GA) yeniden seçim kampanyası için 2 Aralık 2022'de Boston, Massachusetts'te Uluslararası Elektrik İşçileri Kardeşliği'nin (IBEW) telefon bankacılığı etkinliğine katıldı.  (Fotoğraf: Nathan Posner/Anadolu Ajansı, Getty Images aracılığıyla)

Ocak ayında New Hampshire seçmenleri, Başkan Biden'ın sesinin yapay zeka tarafından taklit edildiği bir otomatik çağrıyla karşılandı ve onları oy vermemeye çağırdı. (Anadolu, Getty Images aracılığıyla) Ocak ayında, Başkan Biden'ın sesinin yapay zeka tarafından oluşturulan deepfake'i, Teksas merkezli iki şirket tarafından New Hampshire seçmenlerini otomatik olarak aramak ve onları 23 Ocak'taki eyalet ön seçimlerinde oy kullanmamaya çağırmak için kullanıldı. ElevenLabs'ın ses klonlama aracı kullanılarak oluşturulan klip, Eyaletin başsavcısına göre 25.000 NH seçmenine ulaştı. ElevenLabs anlaşmanın imzacıları arasında yer alıyor.

Federal İletişim Komisyonu (FCC), sahte kampanya çağrılarında ses klonlama teknolojisinin daha fazla kötüye kullanılmasını önlemek için hızlı bir şekilde harekete geçti. Bu ayın başlarında oybirliğiyle yapay zeka tarafından oluşturulan otomatik çağrıların yasaklanması yönünde oy kullanıldı. (Görünüşte sonsuza dek çıkmaza girmiş) ABD Kongresi herhangi bir yapay zeka mevzuatını kabul etmedi. Aralık ayında Avrupa Birliği (AB), diğer ulusların düzenleyici çabalarını etkileyebilecek kapsamlı bir Yapay Zeka Yasası güvenlik geliştirme yasa tasarısı üzerinde anlaşmaya vardı.

Microsoft Başkan Yardımcısı ve Başkan Brad Smith bir basın bülteninde şöyle yazdı: "Toplum yapay zekanın faydalarını benimsedikçe, bu araçların seçimlerde silah haline gelmemesini sağlamaya yardımcı olma sorumluluğumuz var." "Yapay zeka seçim aldatmacası yaratmadı, ancak bunun aldatmacanın gelişmesine yardımcı olmayacağından emin olmalıyız."

https://www.engadget.com/microsoft-openai-google-and-others-agree-to-combat-election-related-deepfakes-203942157.html