Yapay Zeka ile Geliştirilen Dezenformasyon için Erken Uyarı Sistemi

Notre Dame Üniversitesi’ndeki araştırmacılar, çevrimiçi dezenformasyonla mücadele için bir proje üzerinde çalışıyorlar, bu proje şiddete teşvik eden, anlaşmazlık yaratmak ve demokratik seçimlere müdahale etmek için medya kampanyalarını içeriyor. 

Araştırmacılar ekibi, erken uyarı sistemi geliştirmek için yapay zeka (AI) kullanmaya güveniyor. Sistem, manipüle edilmiş görüntüleri, deepfake videolarını ve çevrimiçi dezenformasyonu tanımlayabilecek. Bu, içerik tabanlı görüntü geri çağırma kullanan ölçeklenebilir, otomatik bir sistemdir. Daha sonra sosyal medya ağlarındaki siyasi mizahları tanımlamak için bilgisayar görüşü tabanlı teknikleri uygulayabilir. 

Tim Weninger, Notre Dame’de Bilgisayar Bilimi ve Mühendisliği Bölümü’nde yardımcı profesör. 

“Mizahlar kolayca oluşturulabilir ve paylaşmak için daha da kolaydır” dedi Weninger. “Siyasi mizahlar söz konusu olduğunda, bunlar oy kullanmak için yardımcı olmak için kullanılabilir, ancak aynı zamanda yanlış bilgi yaymak ve zarar vermek için de kullanılabilir.”

Weninger, Notre Dame’deki Bilgisayar Bilimi ve Mühendisliği Bölümü’nden Walter Scheirer ile birlikte araştırma ekibinin üyeleriyle işbirliği yaptı. 

2019 Endonezya Genel Seçimleri

Ekibin sistemi, 2019 Endonezya genel seçiminde test edildi. Seçimle ilgili Twitter ve Instagram’dan çeşitli kaynaklardan gelen iki milyondan fazla görüntü ve içerik toplandı. 

Seçimde, solcu, merkezci mevcut başkan, muhafazakar, popülist adayı yendi. Seçimden sonra sekiz kişinin öldüğü ve yüzlerce kişinin yaralandığı şiddetli protestolar patlak verdi. Ekibin çalışması, seçim üzerinde etki yaratmak ve şiddet teşvik etmek amacıyla sosyal medyada başlatılan spontane ve koordine edilmiş kampanyalar buldu. 

Koordineli kampanyalar, yanlış iddiaları yansıtan ve belirli olayları yanlış gösteren manipüle edilmiş görüntüleri kullandı. Haber hikayeleri ve mizahlar, vatandaşları ve her iki partiden destekçileri provoke etme amacıyla meşru haber logoları kullanılarak uyduruldu. 

Dünya’nın Geriye Kalan Kısmı

2019 Endonezya genel seçimi, dünyanın geri kalanında neler olabileceğinin bir temsilidir. Özellikle sosyal medya aracılığıyla yayılan dezenformasyon, demokratik süreçleri tehdit edebilir. 

Notre Dame’deki araştırma ekibi, dijital adli tıp uzmanları ve barış çalışmaları uzmanlarını içeriyordu. Ekibe göre, sistem, manipüle edilmiş içeriği işaretlemek amacıyla geliştiriliyor ve şiddeti önlemek ve gazetecileri veya seçim gözlemcilerini potansiyel tehditlerden haberdar etmek amaçlanıyor. 

Sistem hala araştırma ve geliştirme aşamasındadır, ancak sonunda ölçeklenebilir ve kullanıcıların içeriği izlemesi için kişiselleştirilebilir olacaktır. Sistem geliştirmenin en büyük zorluklarından bazıları, veri alımı ve işlemenin en iyi şekilde ölçeklendirilmesinin nasıl yapılacağının belirlenmesidir. Scheirer’e göre, sistem şu anda değerlendiriliyor ve bir sonraki adım operasyonel kullanıma geçmek olacak. 

Sistem, büyük miktarda dezenformasyon ve manipülasyon beklenen 2020 ABD genel seçimlerini izlemek için kullanılma ihtimali var.

“Dezenformasyon çağı burada” dedi Scheirer. “Popüler bir filmde aktörleri değiştiren bir deepfake hoş ve neşeli görünebilir, ancak bir dünya liderini başka birine karşı konumlandırmak amacıyla oluşturulan bir video veya mizahı hayal edin – aslında söylemedikleri sözleri söyleyerek. Bu içeriğin ne kadar hızlı bir şekilde paylaşılabileceğini ve platformlar arasında yayılabileceğini düşünün. Bu eylemlerin sonuçlarını düşünün.”