Forskere begynner å trene kunstig intelligens for å bekjempe hatytringer på nettet

Falske nyheter og hatytringer på nettet blir ikke bare et daglig, men et minutt-for-minutt problem på nettet. IkigaiLab rapporterer at Facebook (META ) og Twitter nylig måtte stenge over 1,5 milliarder og 70 millioner kontoer henholdsvis for å forsøke å begrense spredningen av falske nyheter og hatytringer verden over.

Likevel krever en slik oppgave ennå enormt mye menneskelig kraft og nesten konstant arbeidstid for bare å få tak i en liten del av hatytrings-isberget. For å løse problemet begynner forskere på flere laboratorier å trene kunstig intelligens (KI) for å hjelpe med denne enorme oppgaven.

Ikigai nevner Rosetta-systemet som Facebook bruker for å forstå autentisiteten av nyheter, bilder eller annen innhold som lastes opp på denne sosiale medieplattformen. Som forklart, gjør Rosetta det ved å scanne “ord, bilde, språk, font, dato for innlegg blant andre variabler og prøve å se om informasjonen som presenteres er ekte eller ikke.” Etter at systemet har samlet inn informasjonen og med det i mente at KI ennå ikke er fullt ut “i stand til å forstå antydninger, referanser, spark og konteksten hvor innholdet ble postet,” tar menneskelige moderatorer over og guider KI-systemet for å oppdage hatytringer og falske nyheter.

For å forsøke å videreutvikle evnen til KI-systemene til å kunne dekke alle mulige nyanser som kjennetegner hatytringer, tok en gruppe forskere ved UC Santa Barbara og Intel (INTC ), som TheNextWeb (TNW) rapporterer, “tusenvis av samtaler fra de mest forferdelige samfunnene på Reddit og Gab og brukte dem til å utvikle og trene KI for å bekjempe hatytringer.”

Ifølge deres rapport, for å gjøre dette, skapte den felles gruppen av forskere en spesifikk datasett som inneholder “tusenvis av samtaler som er spesifikt kuratert for å sikre at de ville være fulle av hatytringer.” De brukte også en liste over grupper på Reddit som hovedsakelig kjennetegnes av bruk av hatytringer, sammenstilt av Justin Caffier of Vox.

Forskerne endte med å samle inn “mer enn 22 000 kommentarer fra Reddit og over 33 000 fra Gab.” De oppdaget at de to nettstedene viser lignende populære hat-nøkkelord, men fordelingene er svært forskjellige.

De noterte at på grunn av disse forskjellene er det svært vanskelig for sosiale medier generelt å gripe inn i sanntid ettersom strømmen av hatytringer er så høy at det ville kreve ubegrenset med mennesker for å følge med.

For å løse problemet, begynte forskergruppen å trene KI for å gripe inn. Deres initialdatabasen ble sendt til Amazon (AMZN ) Turk-arbeidere for å bli merket. Etter å ha identifisert enkeltstående eksempler på hatytringer, kom arbeiderne opp med fraser som KI ville bli brukt til “å avskrekke brukere fra å poste lignende hatytringer i fremtiden.”

Basert på dette, “kjørte teamet denne datasett og dens database av inngrep gjennom ulike maskinlærings- og naturligspråklig prosesseringssystemer og skapte en slags prototype for en nettbasert hatytrings-intervensjons-KI.”

Resultatene som ble produsert var utmerkede, men siden utviklingen ennå er i et tidlig stadium, er systemet ikke ferdig til å bli aktivt brukt. Som forklart, “systemet bør i teorien kunne oppdage hatytringer og umiddelbart sende en melding til posteren og fortelle dem hvorfor de ikke bør poste ting som åpenbart representerer hatytringer. Dette avhenger av mer enn bare nøkkelord-oppdaging – for at KI skal fungere, må den få konteksten rett.”