Model AI może identyfikować osoby rozpowszechniające dezinformację przed ich działaniem

Model AI stworzony przez badaczy z University of Sheffield może potencjalnie określić, które użytkownicy Twittera opublikują dezinformację przed tym, zanim to zrobią. Jeśli model okaże się niezawodny, może być użyty do uzupełnienia istniejących metod walki z dezinformacją w mediach społecznościowych.

Według TechXplore, badanie zostało przeprowadzone przez badaczy z Wydziału Informatyki Uniwersytetu w Sheffield, w tym dr. Nikosa Aletrasa i Yidę Mu. Badanie zostało opublikowane w czasopiśmie PeerJ i szczegółowo opisuje metody użyte do przewidzenia, czy użytkownik mediów społecznościowych jest prawdopodobnie rozpowszechniającym dezinformację poprzez publikowanie treści z niezaufanych źródeł informacji.

Zespół badawczy zebrano ponad 1 milion tweetów od ponad 6000 użytkowników Twittera, wszystkie dostępne publicznie. Zespół zastosował techniki przetwarzania języka naturalnego, aby przygotować dane do szkolenia modelu AI. Model AI był modelem klasyfikacji binarnej, który oznaczał użytkowników jako prawdopodobnie udostępniających informacje z niezaufanych źródeł lub nieprawdopodobnie. Po przeszkoleniu modelu na danych, osiągnął on około 79,7% dokładności klasyfikacji.

Podczas analizy wyników wydajności modelu, badacze stwierdzili, że użytkownicy, którzy często używali niegrzecznych słów i stale tweetowali o religii i polityce, byli bardziej prawdopodobnie publikowali informacje z niezaufanych źródeł. W szczególności, było duże użycie słów takich jak „liberalny”, „media”, „rząd”, „Izrael” i „Islam”. Tymczasem, użytkownicy, którzy publikowali informacje z zaufanych źródeł, tendencję mieli używać słów takich jak „I’ll”, „gonna”, „wanna”, „mood”, „excited” i „birthday”. Poza tym, oni zwykle dzielili się historiami ze swojego życia, takimi jak interakcje z przyjaciółmi, ich emocjami lub informacjami o swoich hobby.

Wyniki badania mogą pomóc firmom mediów społecznościowych, takim jak Facebook (META ), Reddit i Twitter, opracować nowe sposoby walki z rozpowszechnianiem dezinformacji w Internecie. Badanie może również pomóc psychologom i naukowcom społecznym lepiej zrozumieć zachowanie, które prowadzi do rozpowszechniania dezinformacji w sieci społecznej.

Jak wyjaśnił Aletras według TechXplore, media społecznościowe przekształciły się w jeden z głównych sposobów, w jaki ludzie uzyskują informacje. Miliony użytkowników na całym świecie uzyskują informacje poprzez Facebooka i Twittera każdego dnia, ale te platformy stały się również narzędziami do rozpowszechniania dezinformacji w społeczeństwie. Aletras dodał, że wiarygodne identyfikowanie pewnych trendów w zachowaniu użytkowników może pomóc w ograniczaniu dezinformacji. Jak wyjaśnił Aletras, istnieje „korelacja między użyciem niegrzecznych słów a rozpowszechnianiem niezaufanych treści, które można przypisać wysokiej wrogości politycznej w sieci”.

Według Mu, analiza zachowania użytkowników, którzy udostępniają niezaufane informacje, może pomóc platformom społecznościowym uzupełnić istniejące metody sprawdzania faktów i modelowania dezinformacji na poziomie użytkownika. Jak powiedział Mu za pośrednictwem TechXplore:

“Studium i analiza zachowania użytkowników, którzy udostępniają treści z niezaufanych źródeł informacji, może pomóc platformom społecznościowym w zapobieganiu rozpowszechnianiu fałszywych informacji na poziomie użytkownika, uzupełniając istniejące metody sprawdzania faktów, które działają na poziomie posta lub źródła informacji.”

Badanie przeprowadzone przez Aletrasa i Mu może być przykładem wykorzystania AI do walki z dezinformacją generowaną przez AI. W ostatnich miesiącach nastąpił wzrost dezinformacji dotyczącej polityki lokalnej i krajowej, z których wiele treści jest generowanych i rozpowszechnianych przez algorytmy AI. Głębokie sieci neuronowe są wykorzystywane do konstruowania realistycznych fotografii i profili dla fałszywych kont, które służą jako rozprzestrzenianie fałszywych informacji. Badanie Aletrasa i Mu może pomóc firmom mediów społecznościowych w określeniu, które konta są fałszywe, konta botów utworzone w celu rozpowszechniania szkodliwej propagandy i dezinformacji.