KI kan bekjempe feilinformasjon og fordommer i nyheter

Feilinformasjon og fordommer i nyheter har blitt ett av de største utfordringene samfunnet har møtt i de senere år. Ting som informasjonsoperasjoner, deepfakes, finansiell påvirkning og utnyttelse av sosiale spenninger er nye verktøy som brukes av både enkeltpersoner og statsaktører over hele verden.

Feilinformasjon er en generell betegnelse for feil informasjon, og det spiller en stor rolle i manipuleringen av offentlige meninger. Samtidig brukes det som et angrep mot politiske ledere og forverrer skillelinjene mellom grupper i ulike land. Mer enn noensinne rammer feilinformasjon valgurnene, og det har blitt usedvanlig effektivt.

Desinformasjon, som er litt annerledes enn feilinformasjon, er bevisst misvisende eller partisk informasjon. Det kan inkludere manipulerte narrativer og fakta. Med andre ord er det propaganda.

En rapport fra 2019 fra forskere ved Oxford University detaljerte organiserte desinformasjonskampanjer i 70 ulike land, inkludert Russland, Kina, Vietnam og Guatemala.

Den digitale økonomien har ført til en økning i feilinformasjon og fordommer i nyheter, med KI-teknologier og sosiale medier som måter å spre det til massene.

Vi har sett mange eksempler på dette. For eksempel var de to siste presidentvalgene i USA fulle av feilinformasjon og fordommer, og dette vil sannsynligvis fortsette i fremtiden. Finansmarkedene har også vært utsatt for kortvarig manipulering gjennom feilinformasjon og fordommer, og utenrikssaker blir mer spent som følge av deres bruk. Sosiale spenninger oppstår på grunn av feil informasjon mot støttespillere og motstandere av bestemte årsaker, og falske nyheter er vanlige i nesten hvert land.

Vår avhengighet av sosiale medier og algoritmer har gjort oss usedvanlig sårbare for feilinformasjon og fordommer, og det har blitt lett å manipulere store grupper av mennesker.

Ifølge en artikkel med tittelen «Biases Make People Vulnerable to Misinformation Spread by Social Media», publisert av The Conversation, en nettverk av ikke-kommersielle mediekanaler, finnes det tre typer fordommer som gjør det sosiale medie-økosystemet sårbart for bevisst og uforvarende feilinformasjon. Det er viktig å erkjenne at de fleste av våre nyheter nå kommer fra sosiale medier.

De tre typene fordommer er:

1. Fordom i hjernen: «Kognitive fordommer oppstår i måten hjernen prosesserer informasjonen som hver person møter hver dag».
2. Fordom i samfunnet: «Når mennesker kobler seg direkte til sine likemenn, påvirker de sosiale fordommene som styrer deres valg av venner informasjonen de ser.
3. Fordom i maskinen: «Den tredje gruppen av fordommer oppstår direkte fra algoritmene som brukes til å bestemme hva mennesker ser på nettet. Både sosiale medier og søkemotorer bruker dem».

Denne kombinasjonen av fordommer har skapt det perfekte miljøet for dårlige aktører å bruke våre nåværende nyhetsplattformer som en måte å spre feilinformasjon på. Men det er viktig å erkjenne at fordommer også finnes utenfor dette området. Vanlige nyhetsrapporter og artikler risikerer å være partiske på grunn av en forfatters eller en publiseringsselskaps eget syn.

KI-løsninger for feilinformasjon og fordommer

Oppblomstringen av kunstig intelligens har gitt oss mange nye og innovative verktøy som kan brukes til å bekjempe feilinformasjon og fordommer i nyheter.

For eksempel kan KI, når det er designet riktig, effektivt oppdage og fjerne visse feilinformasjon og andre problematiske innhold på nettet. Det brukes allerede til å identifisere feilaktige bots fra selskaper som Google (GOOGL ), Twitter og Facebook. Og feilaktige bots brukes ofte til å spre feilinformasjon og partisk nyheter.

Nye KI-rammeverk må utforskes for å bekjempe dette problemet, og eksisterende må forbedres, da mange har vist seg å være problematiske. Disse problemene blir enda farligere når konflikter oppstår. For eksempel fører militære konflikter, som den nåværende Russland-Ukraina-konflikten, til spredning av feilinformasjon i en usedvanlig høy hastighet.

Det kommer flere KI-drevne verktøy. For eksempel har NT CONNECT, en internasjonal teknologiutvikler, nylig annonsert lanseringen av sin nyhetsaggregatorkapplikasjon, NOOZ.AI. Den KI-drevne språkanalysemotoren har som mål å bringe transparens til den polariserende fordommen som finnes i dagens nyhetsmedier. Den forsøker å oppnå dette ved å holde lesere informert om nyhetsmediets påvirkning før de leser en artikkel.

«Forfattere eller journalister tenderer mot en bestemt fordom – ofte uten lesernes kunnskap», sier selskapets pressemelding. «Ved å kjenne til forfatterens og nyhetskildens historiske fordom, kan konsumentene undersøke artikkelen med en mer objektiv sinn og motstå å bli manipulert til å tenke på en bestemt måte om et bestemt emne».

Verktøyet NOOZ.AI er bygget på fire nøkkelprinsipper:

• Meninganalyse: Det hjelper lesere å bestemme omfanget av personlige følelser, syn, overbevisninger eller dommer i en journalists skriving.

• Følelsesanalyse: Verktøyet bruker følelsesanalyse til å hjelpe lesere å måle en forfatters støtte eller motstand til generell nyhetsinnhold eller bestemte emner.

• Propagandaanalyse: Det kan oppdage potensiell desinformasjon ved å identifisere bruken av opptil 18 mulige overbevisningsmetoder.

• Revisjonsanalyse: Lesere kan undersøke utviklingen av en nyhetshistorie og dens manipulering av mening og følelse over tid.

Appen gir poengsum for hver artikkel, med meningspoeng som varierer fra 0 til 100 og følelsespoeng som varierer fra -100 til 100. Den sporer også alle tekstendringer for hver revisjon og gir lesere mulighet til å sammenligne ulike versjoner.

Ifølge Garry Paxinos, CTO i NT CONNECT:

«Partisk rapportering er en stor bekymring i dagens samfunn. Feilinformasjon er det mest vanlige (mis)brukte buzzordet. Men virkeligheten er at språk selv kan brukes til å manipulere og overbevise den alminnelige lesere. Ved å objektivt analyse språk unngår vi den subjektive fordom funnet i andre tilnærminger. I stedet for å subjektivt merke feilinformasjon, er vår tilnærmingsmåte å belyse hvordan en kan bli manipulert med overdrevne overskrifter, revisjonshistorikk og artikkeltekst»