AI-ingeniører utvikler metode som kan oppdage hensikt hos de som sprenger desinformasjon

Å håndtere desinformasjon i den digitale tiden er et komplekst problem. Ikke bare må desinformasjon identifiseres, merkes og korrigeres, men også hensikten til de ansvarlige for påstanden må skilles fra. En person kan uvitende spre desinformasjon, eller bare gi sin mening om et spørsmål, selv om det senere rapporteres som faktum. Nylig utviklet et team av AI-forskere og -ingeniører ved Dartmouth et rammeverk som kan brukes til å utlede mening fra “falske nyheter”-rapporter.

Ifølge ScienceDaily ble Dartmouth-teamets studie nylig publisert i Journal of Experimental & Theoretical Artificial Intelligence. Mens tidligere studier har forsøkt å identifisere falske nyheter og bekjempe bedrag, kan dette være den første studien som har som mål å identifisere talerens hensikt i en nyhetsartikkel. Mens en sann historie kan bli forvansket til forskjellige bedragerske former, er det viktig å skille om bedrag var ment. Forskningsgruppen argumenterer for at hensikt er viktig når det gjelder desinformasjon, da bedrag bare er mulig hvis det var hensikt å bedra. Hvis en person ikke var klar over at de spredte desinformasjon eller bare ga sin mening, kan det ikke være bedrag.

Eugene Santos Jr., en ingeniørprofessor ved Dartmouths Thayer School of Engineering, forklarte til ScienceDaily hvorfor deres modell prøver å skille bedragerisk hensikt:

“Bedragerisk hensikt til å bedra lyttere med vilje utgjør en langt større trussel enn uforvarende feil. Ifølge vår kunnskap er vår algoritme den eneste metoden som kan oppdage bedrag og samtidig skille mellom ondsinnede handlinger og harmløse handlinger.”

For å konstruere deres modell, analyserte forskningsgruppen egenskapene ved bedragerisk resonnering. Den resulterende algoritmen kunne skille hensikt til å bedra fra andre former for kommunikasjon ved å fokusere på inkonsekvenser mellom en persons tidligere argumenter og deres nåværende utsagn. Modellen som forskningsgruppen konstruerte, trenger store mengder data som kan brukes til å måle hvordan en person avviker fra tidligere argumenter. Treningdataene som teamet brukte for å trene deres modell, bestod av data fra en undersøkelse av meninger om kontroversielle emner. Over 100 personer ga sin mening om disse kontroversielle sakene. Data ble også hentet fra anmeldelser av 20 forskjellige hoteller, bestående av 400 fiktive anmeldelser og 800 ekte anmeldelser.

Ifølge Santos kan rammeverket som forskerne har utviklet, bli forbedret og brukt av nyhetsorganisasjoner og lesere, for å la dem analysere innholdet i “falske nyheter”-artikler. Leserne kan undersøke artikler for å se om det er til stede meninger og bestemme for seg selv om en logisk argumentasjon er brukt. Santos sa også at teamet ønsker å undersøke effekten av desinformasjon og de ringvirkninger det har.

Populærkulturen avbilder ofte ikke-verbale atferder som ansiktsuttrykk som indikatorer på at noen lør, men forfatterne av studien påpeker at disse atferdsmessige hintene ikke alltid er pålitelige indikatorer på løgn. Deqing Li, medforfatter på papiret, forklarte at deres forskning fant at modeller basert på resonnerende hensikt er bedre indikatorer på løgn enn atferdsmessige og verbale forskjeller. Li forklarte at resonnerende hensiktmodeller “er bedre til å skille mellom bevisst løgn og andre typer informasjonsforvrengning”.

Arbeidet til Dartmouth-forskerne er ikke det eneste nylige fremsteget når det gjelder å bekjempe desinformasjon med AI. Nyhetsartikler med klikk-vennlige titler maskerer ofte desinformasjon. For eksempel, antyder de ofte at en hendelse har funnet sted når en annen hendelse faktisk har skjedd.

Ifølge AINews samarbeidet et team av forskere fra både Arizona State University og Penn State University for å lage en AI som kunne oppdage klikk-vennlige titler. Forskerne ba mennesker om å skrive sine egne klikk-vennlige overskrifter og skrev også et program for å generere klikk-vennlige overskrifter. Begge former for overskrifter ble deretter brukt til å trene en modell som kunne effektivt oppdage klikk-vennlige overskrifter, uavhengig av om de var skrevet av maskiner eller mennesker.

Ifølge forskerne var deres algoritme omtrent 14,5% mer nøyaktig enn tidligere AI-modeller når det gjaldt å oppdage klikk-vennlige titler. Hovedforskeren på prosjektet og associate professor ved College of Information Sciences and Technology ved Penn State, Dongwon Lee, forklarte hvordan deres eksperiment demonstrerer nyttien av å generere data med en AI og mata det tilbake inn i en treningspipeline.

“Dette resultatet er ganske interessant, da vi suksessfullt demonstrerte at maskin-generert klikk-vennlig treningsdata kan mates tilbake inn i treningspipelinen for å trene en rekke maskinlæringsmodeller med forbedret ytelse,” forklarte Lee.