AI för upptäckt av hatprat för att bekämpa stereotyper och desinformation

Idag är internet livsnerven för global kommunikation och koppling. Men med denna utanför jämförelse online-koppling ser vi också den mörka sidan av mänskligt beteende, d.v.s. hatprat, stereotyper och skadligt innehåll. Dessa frågor har trängt in i sociala medier, online-forum och andra virtuella utrymmen, och orsakat bestående skada på individer och samhället. Därför behövs upptäckt av hatprat.

Enligt Pew Research Center säger 41% av amerikanska vuxna att de personligen har mött internetmissbruk, och 25% är offer för allvarlig trakasserier.

För att främja en mer positiv och respektfull online-miljö är det viktigt att anta proaktiva åtgärder och utnyttja kraften i tekniken. I detta avseende erbjuder Artificiell Intelligens (AI) innovativa lösningar för att upptäcka och bekämpa hatprat och stereotyper.

Begränsningar i nuvarande åtgärder för att mildra hatprat och behovet av proaktiva åtgärder

De nuvarande åtgärderna för att mildra hatprat är begränsade. De kan inte effektivt stoppa spridningen av skadligt innehåll online. Dessa begränsningar inkluderar:

• Reaktiva tillvägagångssätt, som i huvudsak förlitar sig på mänsklig moderering och statiska algoritmer, kämpar för att hålla jämna steg med den snabba spridningen av hatprat.
• Den enorma mängden online-innehåll överväldigar mänskliga moderatorer, vilket resulterar i försenade svar och missade fall av skadlig retorik.
• Also, kontextuell förståelse och utvecklande språknyanser utgör utmaningar för automatiserade system att identifiera och tolka hatpratfall korrekt.

För att hantera dessa begränsningar och skapa en säkrare online-miljö är en övergång till proaktiva åtgärder av avgörande betydelse. Genom att anta AI-drivna åtgärder kan vi stärka våra digitala samhällen, uppmuntra inklusivitet och en sammanhållen online-värld.

Identifiering och flaggning av hatprat med hjälp av AI

I kampen mot hatprat framträder AI som en formidabel allierad, med maskinlärningsalgoritmer (ML) för att identifiera och flagga skadligt innehåll snabbt och korrekt. Genom att analysera stora mängder data kan AI-modeller lära sig att känna igen mönster och språknyanser som är förknippade med hatprat, vilket möjliggör för dem att kategorisera och svara effektivt på stötande innehåll.

För att träna AI-modeller för korrekt hatprat-upptäckt används övervakad och oövervakad inlärningsteknik. Övervakad inlärning innebär att tillhandahålla märkta exempel på hatprat och ofarligt innehåll för att lära modellen att skilja mellan de två kategorierna. I kontrast till oövervakad och semi-övervakad inlärning utnyttjar metoder omarkerad data för att utveckla modellens förståelse av hatprat.

Utnyttjande av AI-motpratstekniker för att bekämpa hatprat

Motprat framträder som en kraftfull strategi för att bekämpa hatprat genom att direkt utmana och hantera skadliga berättelser. Det innebär att generera övertygande och informativt innehåll för att främja empati, förståelse och tolerans. Det ger individer och samhällen möjlighet att aktivt delta i skapandet av en positiv digital miljö.

Medan specifika detaljer om enskilda motpratsmodeller kan variera beroende på AI-teknik och utvecklingsmetoder, finns vissa gemensamma funktioner och tekniker, såsom:

• Naturlig språkgenerering (NLG): Motpratsmodeller använder NLG för att producera mänskligt liknande svar i skriftlig eller talad form. Svaren är sammanhängande och kontextuellt relevanta för det specifika fallet av hatprat som de motsätter sig.
• Sentimentsanalys: AI-motpratsmodeller använder sentimentsanalys för att bedöma den emotionella tonen i hatpratet och anpassa sina svar därefter. Det säkerställer att motpratet är både effektivt och empatiskt.
• Kontextuell förståelse: Genom att analysera kontexten kring hatprat kan motpratsmodeller generera svar som hanterar specifika frågor eller missuppfattningar, vilket bidrar till mer effektiv och fokuserad motprat.
• Datadiversitet: För att undvika fördomar och säkerställa rättvisa tränas motpratsmodeller på diversifierade datamängder som representerar olika perspektiv och kulturella nyanser. Det hjälper till att generera inkluderande och kulturellt känsliga svar.
• Inlärning från användarfeedback: Motpratsmodeller kan kontinuerligt förbättras genom att lära av användarfeedback. Denna feedback-loop tillåter modellen att finslipa sina svar baserat på verkliga interaktioner, vilket förbättrar dess effektivitet över tid.

Exempel på bekämpning av hatprat med hjälp av AI

Ett verkligt exempel på en AI-motpratsteknik är “Redirect Method” som utvecklats av Googles Jigsaw och Moonshot CVE. Redirect Method använder riktad reklam för att nå individer som är mottagliga för extremistiska ideologier och hatprat. Detta AI-drivna tillvägagångssätt syftar till att avråda individer från att engagera sig i skadligt innehåll och främja empati, förståelse och en avvikelse från extremistiska övertygelser.

Forskare har också utvecklat en ny AI-modell kallad BiCapsHate som fungerar som ett kraftfullt verktyg mot online-hatprat, som rapporterats i IEEE Transactions on Computational Social Systems. Den stöder en bidirektional analys av språk, vilket förbättrar kontextförståelsen för korrekt bestämning av hatprat. Denna framsteg syftar till att mildra den skadliga effekten av hatprat på sociala medier, och erbjuder potentialen för säkrare online-interaktioner.

På liknande sätt har forskare vid University of Michigan använt AI för att bekämpa online-hatprat med hjälp av en tillvägagångssätt som kallas Rule By Example (RBE). Med hjälp av djupinlärning lär sig detta tillvägagångssätt reglerna för klassificering av hatprat från exempel på hatprat. Dessa regler tillämpas på indata-text för att identifiera och förutsäga online-hatprat korrekt.

Etiska överväganden för hatprat-upptäcktsmodeller

För att maximera effektiviteten hos AI-drivna motpratsmodeller är etiska överväganden av avgörande betydelse. Men det är viktigt att balansera yttrandefrihet och förbud mot spridning av skadligt innehåll för att undvika censur.

Transparens vid utveckling och distribution av AI-motpratsmodeller är essentiell för att främja förtroende och ansvarighet bland användare och intressenter. Att säkerställa rättvisa är lika viktigt, eftersom fördomar i AI-modeller kan upprätthålla diskriminering och exkludering.

Till exempel kan AI som är utformad för att identifiera hatprat oavsiktligt förstärka rasistiska fördomar. Forskning visade att ledande hatprat-AI-modeller var 1,5 gånger mer benägna att flagga tweets från afroamerikaner som stötande. De var 2,2 gånger mer benägna att flagga tweets som hatprat som skrivits på afroamerikanska engelska. Liknande bevis framkom från en studie av 155 800 hatprat-relaterade Twitter-inlägg, som belyste utmaningen att hantera rasistiska fördomar i AI-innehållsmoderering.

I en annan studie testade forskare fyra AI-system för hatprat-upptäckt och fann att alla kämpade för att korrekt identifiera giftiga meningar. För att diagnostisera de exakta problemen i dessa hatprat-upptäcktsmodeller skapade de en taxonomi av 18 hatpratstyper, inklusive smädord och hotfullt språk. De betonade också 11 scenarier som förvirrar AI, såsom användning av svordomar i icke-hatiska uttalanden. Som ett resultat producerade studien HateCheck, en öppen källkodsdatamängd med nästan 4 000 exempel, i syfte att förbättra förståelsen av hatprat-nyanser för AI-modeller.

Medvetenhet och digital litteracitet

Bekämpning av hatprat och stereotyper kräver en proaktiv och multidimensionell strategi. Därför är det viktigt att öka medvetenheten och främja digital litteracitet för att bekämpa hatprat och stereotyper.

Att utbilda individer om effekterna av skadligt innehåll främjar en kultur av empati och ansvarsfullt online-beteende. Strategier som uppmuntrar kritiskt tänkande ger användarna möjlighet att skilja mellan legitim diskurs och hatprat, vilket minskar spridningen av skadliga berättelser. Att också utrusta användare med färdigheterna att identifiera och effektivt svara på hatprat är avgörande. Det kommer att ge dem möjlighet att utmana och motverka skadlig retorik, vilket bidrar till en säkrare och mer respektfull digital miljö.

Såsom AI-teknik utvecklas ökar potentialen att hantera hatprat och stereotyper med större precision och effekt exponentiellt. Därför är det viktigt att etablera AI-drivet motprat som ett kraftfullt verktyg för att främja empati och positivt engagemang online.

För mer information om AI-trender och teknologi, besök unite.ai.