AI-ingenjörer utvecklar metod som kan upptäcka avsikt bakom desinformation

Att hantera desinformation i den digitala eran är ett komplext problem. Inte bara måste desinformation identifieras, märkas och korrigeras, utan också avsikten bakom dem som gör anspråket bör skiljas. En person kan omedvetet sprida desinformation, eller bara ge sin åsikt i en fråga, även om den senare rapporteras som faktum. Nyligen skapade ett team av AI-forskare och ingenjörer vid Dartmouth ett ramverk som kan användas för att härleda åsikt från “falska nyheter”-rapporter.

Enligt ScienceDaily publicerades Dartmouth-teamets studie nyligen i Journal of Experimental & Theoretical Artificial Intelligence. Medan tidigare studier har försökt identifiera falska nyheter och bekämpa bedrägeri, kan detta vara den första studien som syftade till att identifiera talarens avsikt i en nyhetsartikel. Medan en sann historia kan vridas till olika bedrägliga former, är det viktigt att skilja på om bedrägeri var avsett. Forskningsgruppen hävdar att avsikt har betydelse när det gäller desinformation, eftersom bedrägeri bara är möjligt om det fanns en avsikt att vilseleda. Om en person inte insåg att de spridde desinformation eller om de bara gav sin åsikt, kan det inte finnas något bedrägeri.

Eugene Santos Jr., en ingenjörsprofessor vid Dartmouths Thayer School of Engineering, förklarade för ScienceDaily varför deras modell försöker skilja på bedräglig avsikt:

“Avsikt att vilseleda lyssnare med flit utgör ett mycket större hot än oavsiktliga misstag. Såvitt vi vet är vår algoritm den enda metoden som upptäcker bedrägeri och samtidigt skiljer på elaka handlingar och ofarliga handlingar.”

För att konstruera sin modell analyserade forskargruppen egenskaperna hos bedräglig resonemang. Den resulterande algoritmen kunde skilja på avsikt att bedra från andra former av kommunikation genom att fokusera på inkonsekvenser mellan en persons tidigare argument och deras nuvarande uttalanden. Modellen som forskargruppen konstruerade behöver stora mängder data som kan användas för att mäta hur en person avviker från tidigare argument. Träningsdata som gruppen använde för att träna sin modell bestod av data från en undersökning av åsikter om kontroversiella ämnen. Över 100 personer gav sin åsikt om dessa kontroversiella frågor. Data togs också från recensioner av 20 olika hotell, bestående av 400 fiktiva recensioner och 800 riktiga recensioner.

Enligt Santos kunde ramverket som forskarna utvecklade förfinas och tillämpas av nyhetsorganisationer och läsare, för att låta dem analysera innehållet i “falska nyheter”-artiklar. Läsare kunde undersöka artiklar för närvaron av åsikter och avgöra för sig själva om ett logiskt argument hade använts. Santos sa också att gruppen vill undersöka effekterna av desinformation och de ringverkningar som den har.

Populärkulturen avbildar ofta icke-verbala beteenden som ansiktsuttryck som indikatorer på att någon ljuger, men författarna till studien påpekar att dessa beteendemässiga ledtrådar inte alltid är tillförlitliga indikatorer på lögner. Deqing Li, medförfattare till artikeln, förklarade att deras forskning fann att modeller baserade på avsikt att resonera är bättre indikatorer på lögner än beteendemässiga och verbala skillnader. Li förklarade att modeller för avsikt att resonera “är bättre på att skilja på avsiktliga lögner från andra typer av informationsfördistorsion”.

Arbetet med Dartmouth-forskarna är inte den enda nyliga framstegen när det gäller att bekämpa desinformation med AI. Nyhetsartiklar med klickbeteckningar ofta maskerar desinformation. Till exempel antyder de ofta att en sak hände när en annan händelse faktiskt inträffade.

Enligt AINews samarbetade en grupp forskare från Arizona State University och Penn State University för att skapa en AI som kunde upptäcka klickbeteckningar. Forskarna bad människor att skriva sina egna klickbeteckningar och skrev också ett program för att generera klickbeteckningar. Båda formerna av rubriker användes sedan för att träna en modell som kunde effektivt upptäcka klickbeteckningar, oavsett om de skrevs av maskiner eller människor.

Enligt forskarna var deras algoritm cirka 14,5% mer exakt när det gällde att upptäcka klickbeteckningar än andra AI hade varit tidigare. Den ledande forskaren i projektet och biträdande professor vid College of Information Sciences and Technology vid Penn State, Dongwon Lee, förklarade hur deras experiment demonstrerar nyttan av att generera data med en AI och mata tillbaka den i en träningspipeline.

“Detta resultat är ganska intressant eftersom vi framgångsrikt demonstrerade att maskin-genererad klickbetecknings-träningsdata kan matas tillbaka i träningspipelinen för att träna en mängd olika maskinlärningsmodeller för att ha förbättrad prestanda”, förklarade Lee.