Inżynierowie AI opracowują metodę wykrywania intencji osób rozpowszechniających dezinformację

Rozprawianie się z dezinformacją w erze cyfrowej jest złożonym problemem. Nie tylko dezinformacja musi być zidentyfikowana, oznaczona i poprawiona, ale także intencja osób odpowiedzialnych za rozpowszechnianie tej informacji powinna być rozróżniona. Osoba może nieświadomie rozpowszechniać dezinformację lub po prostu wyrażać swoją opinię na dany temat, nawet jeśli później zostanie ona zgłoszona jako fakt. Niedawno zespół badaczy i inżynierów AI z Dartmouth stworzył ramy, które mogą być wykorzystane do wywnioskowania opinii z raportów “fałszywych wiadomości”.

Jak donosi ScienceDaily, badanie zespołu z Dartmouth zostało niedawno opublikowane w Journal of Experimental & Theoretical Artificial Intelligence. Podczas gdy poprzednie badania próbowały zidentyfikować fałszywe wiadomości i zwalczać oszustwa, to może być pierwsze badanie, które miało na celu zidentyfikowanie intencji mówcy w artykule. Podczas gdy prawdziwa historia może być zniekształcona w różne formy oszustwa, ważne jest, aby rozróżnić, czy oszustwo było zamierzone. Zespół badawczy twierdzi, że intencja ma znaczenie, gdy rozważa się dezinformację, ponieważ oszustwo jest możliwe tylko wtedy, gdy istnieje zamiar wprowadzania w błąd. Jeśli osoba nie zdawała sobie sprawy, że rozpowszechnia dezinformację, lub po prostu wyrażała swoją opinię, nie może być mowy o oszustwie.

Eugene Santos Jr., profesor inżynierii na Thayer School of Engineering w Dartmouth, wyjaśnił ScienceDaily, dlaczego ich model próbuje rozróżnić intencję oszustwa:

“Intencja oszustwa w celu celowego wprowadzania słuchaczy w błąd stanowi o wiele większe zagrożenie niż nieumyślne błędy. Naszym zdaniem nasz algorytm jest jedyną metodą, która wykrywa oszustwo i jednocześnie rozróżnia działania malwersatywne od działań niewinnych.”

Aby zbudować swój model, zespół badawczy przeanalizował cechy oszustwa. Wynikowy algorytm mógł rozróżnić intencję oszustwa od innych form komunikacji, koncentrując się na niezgodnościach między poprzednimi argumentami osoby a jej obecnymi oświadczeniami. Model stworzony przez zespół badawczy wymaga dużych ilości danych, które mogą być wykorzystane do pomiaru, jak osoba odbiega od poprzednich argumentów. Dane szkoleniowe, które zespół wykorzystał do szkolenia swojego modelu, składały się z danych pochodzących z ankiety na temat kontrowersyjnych tematów. Ponad 100 osób wyraziło swoją opinię na te kontrowersyjne tematy. Dane zostały również pobrane z recenzji 20 różnych hoteli, składających się z 400 fikcyjnych recenzji i 800 prawdziwych recenzji.

Zgodnie z Santosem, ramy opracowane przez badaczy mogą być udoskonalone i wykorzystane przez organizacje medialne i czytelników, aby umożliwić im analizę treści artykułów “fałszywych wiadomości”. Czytelnicy mogliby sprawdzić artykuły pod kątem obecności opinii i samodzielnie ustalić, czy został użyty logiczny argument. Santos powiedział również, że zespół chce zbadać wpływ dezinformacji i efektów, jakie wywołuje.

Popularna kultura często przedstawia nieverbalne zachowania, takie jak wyrażenia twarzy, jako wskaźniki, że ktoś kłamie, ale autorzy badania zauważają, że te wskazówki behawioralne nie są zawsze wiarygodnymi wskaźnikami kłamstwa. Deqing Li, współautor artykułu, wyjaśnił, że ich badanie wykazało, że modele oparte na intencji rozumowania są lepszymi wskaźnikami kłamstwa niż różnice behawioralne i werbalne. Li wyjaśnił, że modele intencji rozumowania “są lepsze w rozróżnianiu intencjonalnych kłamstw od innych typów zniekształceń informacji”.

Praca badaczy z Dartmouth nie jest jedynym niedawnym postępem w walce z dezinformacją przy użyciu AI. Artykuły prasowe z tytułami wabiącymi często maskują dezinformację. Na przykład, często sugerują, że coś się wydarzyło, podczas gdy w rzeczywistości wydarzyło się coś innego.

Jak donosi AINews, zespół badaczy z Arizona State University i Penn State University współpracował w celu stworzenia AI, które mogą wykryć tytuły wabiące. Badacze poprosili ludzi o napisanie własnych tytułów wabiących i również napisali program do generowania tytułów wabiących. Obie formy tytułów zostały następnie wykorzystane do szkolenia modelu, który mógł skutecznie wykryć tytuły wabiące, niezależnie od tego, czy zostały one napisane przez maszyny czy ludzi.

Zgodnie z badaczami, ich algorytm był o około 14,5% bardziej dokładny w wykrywaniu tytułów wabiących niż inne AI w przeszłości. Kierownik projektu i profesor nadzwyczajny w College of Information Sciences and Technology na Penn State, Dongwon Lee, wyjaśnił, jak ich eksperyment demonstruje użyteczność generowania danych z AI i wprowadzania ich z powrotem do potoku szkoleniowego.

“Ten wynik jest dość interesujący, ponieważ udowodniliśmy, że dane szkoleniowe wygenerowane przez maszynę mogą być wprowadzone z powrotem do potoku szkoleniowego w celu szkolenia szerokiej gamy modeli uczenia maszynowego, aby poprawić ich wydajność”, wyjaśnił Lee.