Kunstig intelligens kan bekæmpe misinformations- og biasproblemer i nyheder

Misinformation og bias i nyheder er blevet en af de største udfordringer, som samfundet har stået overfor i de seneste år. Ting som informationsoperationer, deepfakes, finansielle påvirkninger og udnyttelse af sociale spændinger er nye værktøjer, som bruges af både enkeltpersoner og statsaktører over hele verden.

Misinformation er en generel betegnelse for forkert information, og det spiller en stor rolle i manipulationen af offentlig mening. Samtidig bruges det som et angreb mod politiske ledere og forværre separationslinjer mellem grupper i forskellige lande. Mere end nogensinde før rammer misinformation valglokalerne, og det er blevet utroligt effektivt.

Desinformation, som er lidt anderledes end misinformation, er bevidst misvisende eller forkert information. Det kan inkludere manipulerede fortællinger og fakta. Med andre ord er det propaganda.

En rapport fra 2019 af forskere fra Oxford University detaljerede organiserede desinformationskampagner i 70 forskellige lande, herunder Rusland, Kina, Vietnam og Guatemala.

Den digitale økonomi har ført til en stigning i misinformation og bias i nyheder, hvor kunstig intelligens-teknologier og sociale medieplatforme er blevet måder at sprede det til masserne.

Vi har set mange eksempler på dette. For eksempel var de to seneste amerikanske præsidentvalg fulde af misinformation og bias, og dette vil sandsynligvis fortsætte i fremtiden. Finansmarkederne er også blevet udsat for kortvarig manipulation gennem misinformation og bias, og udenrigspolitikken bliver mere anspændt som følge af deres brug. Sociale spændinger opstår på grund af forkert information mod støtter og modstandere af bestemte årsager, og falske nyheder er almindelige i næsten alle nationer.

Vores afhængighed af sociale medier og algoritmer har gjort os utroligt sårbare over for misinformation og bias, og det er blevet let at manipulere store grupper af mennesker.

Ifølge en artikel med titlen “Biases Make People Vulnerable to Misinformation Spread by Social Media”, publiceret af The Conversation, en netværk af ikke-profit medieudbydere, er der tre typer af bias, der gør det sociale medie-økosystem sårbart over for bevidst og ubevidst misinformation. Det er vigtigt at erkende, at det meste af vores nyheder nu kommer fra sociale medier.

De tre typer af bias er:

1. Bias i hjernen: “Kognitive bias oprinder i måden, hvorpå hjernen behandler den information, som hver person møder hver dag.”
2. Bias i samfundet: “Når mennesker kommunikerer direkte med deres ligemænd, kommer de sociale bias, der guider deres valg af venner, til at påvirke den information, de ser.
3. Bias i maskinen: “Den tredje gruppe af bias opstår direkte fra algoritmernes brug til at bestemme, hvad mennesker ser online. Såvel sociale medieplatforme som søgemaskiner bruger dem.”

Denne kombination af bias har skabt det perfekte miljø for dårlige aktører til at bruge vores nuværende nyhedsplatforme som en måde at sprede misinformation på. Men det er vigtigt at erkende, at bias også er til stede uden for dette område. Almindelige nyhedsrapporter og artikler risikerer at være bias på grund af en forfatters eller udgivelses egen særlige tilbøjelighed. Dette er ikke noget nyt.

Kunstig intelligens-løsninger til misinformation og bias

Kunstig intelligens’ opkomst har givet os mange nye og innovative værktøjer, som kan bruges til at bekæmpe misinformation og bias i nyhederne.

For eksempel kan kunstig intelligens, når den er designet korrekt, effektivt opdage og fjerne visse former for misinformation og andet problematisk indhold online. Det bruges allerede til at identificere falske bots af virksomheder som Google (GOOGL ), Twitter og Facebook. Og falske bots bruges ofte til at sprede misinformation og bias.

Nye kunstig intelligens-rammer skal udforskes for at bekæmpe dette problem, og eksisterende rammer skal forbedres, da mange har vist sig at være problematiske. Disse problemer bliver endnu farligere, når konflikter opstår. For eksempel fører militære konflikter, såsom den nuværende Rusland-Ukraine-konflikt, til en hurtig spredning af misinformation.

Der er flere kunstig intelligens-drevne værktøjer på vej. For eksempel har NT CONNECT, en international teknologiudvikler, nyligt annonceret lanceringen af sin nyhedsaggregator-applikation, NOOZ.AI. Den kunstig intelligens-drevne sproganalyse-motor har til formål at bringe gennemsigtighed til den polariserende bias, der findes i dagens nyhedsmedier. Det forsøger at opnå dette ved at holde læserne informerede om nyhedsmediernes indflydelse før læsningen af en artikel.

“Forfattere eller journalister tenderer mod en bestemt bias – ofte uden læserens viden,” siger virksomhedens pressemeddelelse. “Ved at kende forfatterens og nyhedsmediernes historiske bias kan forbrugerne undersøge artiklen med en mere objektiv sind og modstå at blive manipuleret til at tænke på en bestemt måde om et bestemt emne.”

NOOZ.AI-værktøjet er bygget på fire nøglepiller:

• Meningsanalyse: Det hjælper læserne med at bestemme tilstedeværelsen af personlige følelser, synspunkter, overbevisninger eller domme i en journalists skrivestil.

• Sentimentanalyse: Værktøjet bruger sentimentanalyse til at hjælpe læserne med at bedømme en forfatters støtte eller modstand til det generelle nyhedsindhold eller et bestemt emne.

• Propagandaanalyse: Det kan opdage potentiel desinformation ved at identificere brugen af op til 18 mulige overbevisningsmetoder.

• Revisionanalyse: Læserne kan undersøge udviklingen af en nyhedsartikel og dens manipulation af mening og følelse over tid.

Appen giver scores for hver artikel, med meningskarakterer fra 0 til 100 og følelseskarakterer fra -100 til 100. Den sporer også alle tekstændringer for hver revision og giver læserne mulighed for at sammenligne forskellige versioner.

Ifølge Garry Paxinos, teknisk direktør i NT CONNECT:

“Bias i rapportering er en stor bekymring i dagens samfund. Misinformation er det mest almindelige (mis)brugte buzzord. Men virkeligheden er, at sprog selv kan bruges til at manipulere og overbevise den almindelige læser. Ved at objektivt analyserer sproget undgår vi den subjektive bias, der findes i andre tilgange. I stedet for at subjektivt mærke misinformation som sådan, søger vores tilgang at belyse, hvordan man kan blive manipuleret med overdrevne overskrifter, revisionshistorik og artikeltække.”