Forskere Begynder At Træne Kunstig Intelligens Til At Bekæmpe Hadtale Online

Falske nyheder og hadtale online er blevet et problem, der opstår ikke kun dagligt, men minut for minut. Ifølge IkigaiLab har Facebook (META ) og Twitter nødt til at lukke mere end 1,5 milliarder og 70 millioner konti henholdsvis for at forsøge at begrænse spredningen af falske nyheder og hadtale verden over.

Alligevel kræver en sådan opgave i øjeblikket enormt menneskeligt arbejdskraft og næsten konstant arbejdstid for blot at nå toppen af hadtalens isbjerg. For at løse problemet er forskere i adskillige laboratorier begyndt at træne kunstig intelligens (KI) til at hjælpe med denne enorme opgave.

Ikigai citerer Rosetta-systemet, som Facebook bruger til at forstå ægthed af nyheder, billeder eller andet indhold, der uploades på det sociale medie. Som det forklares, scanner Rosetta “ord, billede, sprog, font, dato for opslaget samt andre variabler og prøver at se, om den præsenterede information er ægte eller ej.” Efter systemet har indsamlet informationen og med det i mente, at KI endnu ikke er fuldstændigt “dygtig til at forstå antydninger, henvisninger, fornærmelser og sammenhængen, hvori indholdet blev opslået,” overtager menneskelige moderatore og vejleder KI-systemet til at opdage hadtale og falske nyheder.

For at forsøge at yderligere udvikle KI-systemernes evne til at dække alle mulige nuancer, der kendetegner hadtale, har et hold af forskere ved UC Santa Barbara og Intel (INTC ), som TheNextWeb (TNW) rapporterer, “taget tusinder af samtaler fra de værste fællesskaber på Reddit og Gab og brugt dem til at udvikle og træne KI til at bekæmpe hadtale.”

Ifølge deres rapport skabte den fælles gruppe af forskere en specifik dataset, der indeholder “tusinder af samtaler, der specifikt er udvalgt til at sikre, at de ville være fulde af hadtale.” De brugte også en liste over grupper på Reddit, der primært er kendetegnet ved brug af hadtale, som er samlet af Justin Caffier fra Vox.

Forskerne endte med at indsamle “mere end 22.000 kommentarer fra Reddit og over 33.000 fra Gab.” De opdagede, at de to sider viser lige populære hadord, men distributionerne er meget forskellige.

De bemærkede, at på grund af disse forskelle er det meget svært for sociale medier generelt at gribe ind i realtid, da strømmen af hadtale er så høj, at det ville kræve utallige mennesker at følge med.

For at løse problemet begyndte forskerholdet at træne KI til at gribe ind. Deres oprindelige database blev sendt til Amazon (AMZN ) Turk-arbejdere til at blive markeret. Efter at have identificeret de enkelte eksempler på hadtale kom arbejderne med fraser, som KI ville blive brugt til “at afværge brugere fra at poste lignende hadtale i fremtiden.”

Baseret på det “kørte holdet denne dataset og dens database af interventioner gennem forskellige maskinlærings- og naturligt sprogbehandlingsystemer og skabte en slags prototype for en online hadtale-interventions-KI.”

Resultaterne var fremragende, men da udviklingen stadig er i en tidlig fase, er systemet endnu ikke klar til at blive aktivt brugt. Som det forklares, “skal systemet i teorien opdage hadtale og straks sende en besked til opslagsgiveren og fortælle ham, hvorfor han ikke skal poste ting, der åbenbart repræsenterer hadtale. Dette afhænger af mere end kun nøgleordsdetektion – for at KI skal fungere, skal den få sammenhængen rigtigt.”