Yanlış Bilgi için Erken Uyarı Sistemi AI ile Geliştirildi

Notre Dame Üniversitesi’ndeki araştırmacılar, çevrimiçi yanlış bilgiyle mücadele için bir proje üzerinde çalışıyorlar, bu projeye dahil olan medya kampanyaları şiddeti teşvik etmek, anlaşmazlık yaratmak ve demokratik seçimlere müdahale etmek için kullanılıyor.

Araştırmacılar ekibi, yanlış bilgiyi çevrimiçi olarak tanımlayabilen, manipüle edilmiş görüntüleri, deepfake videoları ve yanlış bilgiyi tanımlayabilen bir erken uyarı sistemi geliştirmek için yapay zeka (AI) kullandı. Bu, içerik tabanlı görüntü geri çağırma kullanan ölçeklenebilir, otomatik bir sistemdir. Ayrıca, bilgisayar görüşü tabanlı teknikleri kullanarak çoklu sosyal medya ağlarında siyasi mizahları tanımlayabilir.

Tim Weninger, Notre Dame’de Bilgisayar Bilimi ve Mühendisliği Bölümü’nde yardımcı profesör.

“Mizahlar kolayca oluşturulabilir ve paylaşılması daha da kolaydır” dedi Weninger. “Siyasi mizahlar söz konusu olduğunda, bunlar oy kullanmak için yardımcı olmak için kullanılabilir, ancak aynı zamanda yanlış bilgi yaymak ve zarar vermek için de kullanılabilir.”

Weninger, Notre Dame’de Bilgisayar Bilimi ve Mühendisliği Bölümü’nde yardımcı doçent olan Walter Scheirer ile birlikte araştırma ekibinin üyeleriyle işbirliği yaptı.

2019 Endonezya Genel Seçimleri

Ekibin sistemi, 2019 Endonezya genel seçimlerinde test edildi. Seçimle ilgili Twitter ve Instagram’dan çeşitli kaynaklardan gelen iki milyondan fazla görüntü ve içerik toplandı.

Seçimde, solcu, merkezci görevdeki kişi, muhafazakar, popülist adaya karşı kazandı. Seçimden sonra, sekiz kişi öldü ve yüzlerce kişi yaralandı. Ekibin çalışması, seçim üzerinde vliv sağlamak ve şiddeti teşvik etmek amacıyla sosyal medyada başlatılan spontan ve koordine kampanyaların varlığını ortaya koydu.

Koordineli kampanyalar, yanlış iddiaları yansıtan ve belirli olayları yanlış şekilde sunan manipüle edilmiş görüntüleri kullandı. Her iki partiden vatandaşları ve destekçileri provoke etmek amacıyla gerçek haber logoları kullanılarak haber hikayeleri ve mizahlar uyduruldu.

Dünya’nın Geri Kalan Kısmı

2019 Endonezya genel seçimleri, dünyanın geri kalanında neler olabileceğinin bir göstergesidir. Özellikle sosyal medya aracılığıyla yayılan yanlış bilgi, demokratik süreçleri tehdit edebilir.

Notre Dame’deki araştırma ekibi, dijital adli tıp uzmanları ve barış çalışmaları uzmanlarını içeriyordu. Ekibe göre, sistem, manipüle edilmiş içeriği işaretlemek ve şiddeti önlemek amacıyla geliştiriliyor ve gazetecileri veya seçim gözlemcilerini potansiyel tehditlerden uyarmak için kullanılıyor.

Sistem hala araştırma ve geliştirme aşamasında, ancak sonunda ölçeklenebilir ve kullanıcıların içeriği izlemesi için kişiselleştirilecek. Sistem geliştirmesinin en büyük zorluklarından biri, veri alımı ve işlemenin en iyi şekilde nasıl ölçekleneceğini belirlemek. Scheirer’e göre, sistem şu anda değerlendiriliyor ve bir sonraki adım operasyonel kullanıma geçmek olacak.

Sistem, 2020 ABD genel seçimlerini izlemek için kullanılabilir, bu seçim büyük miktarda yanlış bilgi ve manipülasyon görecek.

“Yanlış bilgi çağı burada” dedi Scheirer. “Popüler bir filmde aktörlerin yerine geçen bir deepfake hoş ve neşeli görünse de, iki dünya liderini birbirine karşı pits etmek amacıyla söylenen sözleri söylemeyen bir video veya mizah yaratmak amacıyla oluşturulmuş bir içerik hayal edin. Bu içeriğin ne kadar hızlı bir şekilde paylaşılabileceğini ve platformlar arasında yayılabileceğini düşünün. Bu eylemlerin sonuçlarını düşünün.”