AI-ingeniører udvikler metode til at opdage intentionerne bag misinformation

At håndtere misinformation i den digitale tidsalder er et komplekst problem. Ikke kun skal misinformation identificeres, markeres og korrigeres, men også intentionerne bag dem, der er ansvarlige for påstanden, skal skelnes. En person kan uvilkårligt sprede misinformation eller blot give sin mening om et spørgsmål, selv om det senere rapporteres som faktum. For nylig udviklede et hold af AI-forskere og -ingeniører på Dartmouth en ramme, der kan bruges til at udlede mening fra “falske nyheder”-rapporter.

Ifølge ScienceDaily blev Dartmouth-holdets studie nyligt offentliggjort i Journal of Experimental & Theoretical Artificial Intelligence. Mens tidligere studier har forsøgt at identificere falske nyheder og bekæmpe bedrag, kan dette være det første studie, der har til formål at identificere talerens intention i en nyhedsartikel. Mens en sand historie kan forvrænges til forskellige bedrageriske former, er det vigtigt at skelne, om bedrag var til intention. Forskningsholdet argumenterer for, at intention er vigtig, når det kommer til misinformation, da bedrag kun er muligt, hvis der var intention om at bedrage. Hvis en person ikke var klar over, at de spredte misinformation, eller hvis de blot gav deres mening, kan der ikke være tale om bedrag.

Eugene Santos Jr., en ingeniørprofessor på Dartmouths Thayer School of Engineering, forklarede til ScienceDaily, hvorfor deres model forsøger at skelne bedragerisk intention:

“Bedragerisk intention til at bedrage lyttere med vilje udgør en langt større trussel end utilsigtede fejl. Så vidt vi ved, er vores algoritme den eneste metode, der kan opdage bedrag og samtidig skelne ondsindet fra godtroende handlinger.”

For at konstruere deres model analyserede forskningsholdet træk ved bedragerisk argumentation. Den resulterende algoritme kunne skelne intention om at bedrage fra andre former for kommunikation ved at fokusere på uoverensstemmelser mellem en persons tidligere argumenter og deres nuværende udsagn. Modellen, som forskningsholdet konstruerede, kræver store mængder data, der kan bruges til at måle, hvor meget en person afviger fra tidligere argumenter. Træningsdata, som holdet brugte til at træne deres model, bestod af data fra en undersøgelse af meninger om kontroversielle emner. Over 100 personer gav deres mening om disse kontroversielle spørgsmål. Data blev også hentet fra anmeldelser af 20 forskellige hoteller, bestående af 400 fiktive anmeldelser og 800 ægte anmeldelser.

Ifølge Santos kunne rammen, som forskerne udviklede, affineres og anvendes af nyhedsorganisationer og læsere for at analysere indholdet af “falske nyheder”-artikler. Læsere kunne undersøge artikler for tilstedeværelse af meninger og bestemme for sig selv, om en logisk argumentation var blevet brugt. Santos sagde også, at holdet ønskede at undersøge effekten af misinformation og de ringvirkninger, det har.

Populærkulturen afbilder ofte non-verbale adfærd som ansigtsudtryk som tegn på, at nogen lyver, men studiens forfattere bemærker, at disse adfærds-hint ikke altid er pålidelige tegn på, at nogen lyver. Deqing Li, medforfatter på artiklen, forklarede, at deres forskning fandt, at modeller baseret på intention om at bedrage er bedre tegn på, at nogen lyver, end adfærdsmæssige og verbale forskelle. Li forklarede, at modeller baseret på intention om at bedrage “er bedre til at skelne mellem bevidst bedrag og andre former for informationsforvrængning”.

Arbejdet med Dartmouth-forskerne er ikke den eneste ny udvikling, når det kommer til at bekæmpe misinformation med AI. Nyhedsartikler med klik-venlige overskrifter kan ofte skjule misinformation. For eksempel antyder de ofte, at noget andet er sket, end det, der faktisk er sket.

Ifølge AINews samarbejdede et hold af forskere fra både Arizona State University og Penn State University om at udvikle en AI, der kan opdage klik-venlige overskrifter. Forskerne bad mennesker om at skrive deres egne klik-venlige overskrifter og skrev også et program til at generere klik-venlige overskrifter. Begge former for overskrifter blev derefter brugt til at træne en model, der kunne effektivt opdage klik-venlige overskrifter, uanset om de var skrevet af maskiner eller mennesker.

Ifølge forskerne var deres algoritme omkring 14,5% mere præcis til at opdage klik-venlige overskrifter end andre AI’er havde været tidligere. Den ledende forsker på projektet og adjunktprofessor på College of Information Sciences and Technology på Penn State, Dongwon Lee, forklarede, hvordan deres eksperiment demonstrerer nyttigheden af at generere data med en AI og føde det tilbage ind i en træningspipeline.

“Dette resultat er ret interessant, da vi succesfuldt demonstrerede, at maskin-genereret klik-venlig træningsdata kan fødes tilbage ind i træningspipelinen for at træne en bred vifte af maskinlæringsmodeller til at have forbedret ydeevne,” forklarede Lee.