AI kan bekämpa missinformation och partiskhet i nyheter

Missinformation och partiskhet i nyheter har blivit en av de största utmaningarna som samhället har stått inför under de senaste åren. Saker som informationsoperationer, deepfakes, finansiellt inflytande och utnyttjande av sociala spänningar är nya verktyg som används av både individer och statliga aktörer över hela världen.

Missinformation är en allmän term för falsk information, och det spelar en stor roll i manipulationen av allmänhetens åsikt. Samtidigt används det som en attack mot politiska ledare och förvärrar separationer mellan grupper i olika länder. Mer än någonsin tidigare slår missinformation mot valurnan, och det har blivit otroligt effektivt.

Desinformation, som är något annorlunda än missinformation, är medvetet vilseledande eller partisk information. Det kan innehålla manipulerade berättelser och fakta. Med andra ord är det propaganda.

En rapport från 2019 av forskare vid Oxford University beskrev organiserade desinformationskampanjer i 70 olika länder, inklusive Ryssland, Kina, Vietnam och Guatemala.

Den digitala ekonomin har lett till en ökning av missinformation och partiskhet i nyheter, med AI-teknologier och sociala medieplattformar som sätt att sprida det till massorna.

Vi har sett många exempel på detta. Till exempel var de två senaste presidentvalen i USA fulla av missinformation och partiskhet, och detta kommer säkert att fortsätta i framtiden. Finansmarknader har också varit föremål för kortvarig manipulation genom missinformation och partiskhet, och utrikesfrågor blir alltmer spända till följd av deras användning. Sociala spänningar orsakas av falsk information mot anhängare och motståndare till specifika orsaker, och falska nyheter är vanliga i nästan varje nation.

Vår beroende av sociala medier och algoritmer har gjort oss otroligt sårbara för missinformation och partiskhet, och det har blivit lätt att manipulera stora grupper av människor.

Enligt en essä med titeln ” Biases Make People Vulnerable to Misinformation Spread by Social Media”, publicerad av The Conversation, ett nätverk av icke-vinstdrivande mediekanaler, finns det tre typer av partiskhet som gör det sociala medieekosystemet sårbart för avsiktlig och oavsiktlig missinformation. Det är viktigt att inse att de flesta av våra nyheter nu kommer från sociala medier.

De tre typerna av partiskhet är:

1. Partiskhet i hjärnan: ”Kognitiva partiskheter uppstår i hur hjärnan bearbetar den information som varje person möter varje dag.”
   
2. Partiskhet i samhället: ”När människor kopplar direkt till sina kamrater, påverkar de sociala partiskheterna som styr deras urval av vänner den information de ser.
   
3. Partiskhet i maskinen: ”Den tredje gruppen av partiskheter uppstår direkt från de algoritmer som används för att bestämma vad människor ser online. Både sociala medieplattformar och sökmotorer använder dem.”

Denna kombination av partiskheter har skapat den perfekta miljön för illasinnade aktörer att använda våra nuvarande nyhetsplattformar som ett sätt att sprida missinformation. Men det är viktigt att inse att partiskhet också finns utanför detta område. Vanliga nyhetsrapporter och artiklar riskerar att vara partiska på grund av en författares eller publicerings eget särskilda perspektiv. Detta är ingenting nytt.

AI-lösningar för missinformation och partiskhet

Uppkomsten av artificiell intelligens har gett oss många nya och innovativa verktyg som kan användas för att bekämpa missinformation och partiskhet i nyheter.

Till exempel kan AI, när det är korrekt utformat, effektivt upptäcka och ta bort viss missinformation och annat problematiskt innehåll online. Det används redan för att identifiera falska botar av företag som Google (GOOGL ), Twitter och Facebook. Och falska botar används ofta för att sprida missinformation och partisk nyheter.

Nya AI-ramverk måste utforskas för att bekämpa detta problem, och befintliga måste förbättras eftersom många har visat sig vara problematiska. Dessa problem börjar bli ännu farligare när konflikter uppstår. Till exempel leder militära konflikter, som den pågående Ryssland-Ukraina-konflikten, till spridning av missinformation i en otroligt snabb takt.

Det finns olika AI-drivna verktyg på väg. Till exempel har NT CONNECT, en internationell teknikutvecklare, nyligen meddelat lanseringen av sin nyhetsaggregatorapplikation, NOOZ.AI. Den AI-drivna språkanalysmotorn syftar till att bringa transparens till den polariserande partiskhet som finns i dagens nyhetsmedier. Den försöker uppnå detta genom att hålla läsarna medvetna om nyhetsmediernas inflytande innan de läser en artikel.

”Författare eller journalister tenderar att luta åt en viss partiskhet – ofta utan läsarens kännedom”, säger företagets pressmeddelande. ”Genom att känna till författarens och nyhetskällans historiska partiskhet kan konsumenterna undersöka artikeln med ett mer objektivt sinne och motstånd mot att manipuleras att tänka på ett visst sätt om ett visst ämne.”

NOOZ.AI-verktyget bygger på fyra nyckelpelare:

• Åsiktsanalys: Det hjälper läsarna att avgöra förekomsten av personliga känslor, åsikter, övertygelser eller bedömningar i en journalists skrivande.

• Sentimentsanalys: Verktyget använder sentimentsanalys för att hjälpa läsarna att bedöma en författares stöd eller motstånd till det allmänna nyhetsinnehållet eller ett specifikt ämne.

• Propagandaanalys: Det kan upptäcka potentiell desinformation genom att identifiera användningen av upp till 18 möjliga övertalningsmetoder.

• Revisionsanalys: Läsarna kan undersöka utvecklingen av en nyhetshistoria och dess manipulation av åsikt och sentiment över tid.

Appen tillhandahåller poäng för varje artikel, med åsiktspoäng som sträcker sig från 0 till 100 och sentimentspoäng som sträcker sig från -100 till 100. Den spårar också alla textredigeringar för varje revision och ger läsarna möjlighet att jämföra olika versioner.

Enligt Garry Paxinos, CTO på NT CONNECT:

”Partisk rapportering är en stor oro i dagens samhälle. Missinformation är det vanligaste (miss)använda buzzordet. Men verkligheten är att språk självt kan användas för att manipulera och övertyga den oinvigde läsaren. Genom att objektivt analysera språk undviker vi den subjektiva partiskhet som finns i andra tillvägagångssätt. Till skillnad från att subjektivt märka missinformation, är vår metod att belysa hur man kan manipuleras med överdrivna rubriker, revisionshistorik och text i artiklar.”