Onderzoekers beginnen kunstmatige intelligentie te trainen om haatzaaiende taal online te bestrijden

Nepnieuws en haatzaaiende taal online worden niet alleen een dagelijks, maar een minuut-per-minuut probleem online. Volgens IkigaiLab moesten Facebook (META ) en Twitter onlangs meer dan 1,5 miljard en 70 miljoen accounts respectievelijk sluiten om te proberen de verspreiding van nepnieuws en haatzaaiende taal over de hele wereld te beteugelen.

Toch is een dergelijke taak op dit moment enorm veel menselijke kracht en bijna constante werktijden nodig om alleen maar de top van de ijsberg van haatzaaiende taal aan te pakken. Om het probleem op te lossen, beginnen onderzoekers in talloze laboratoria kunstmatige intelligentie (AI) te trainen om te helpen bij deze enorme taak.

Ikigai citeert het Rosetta-systeem dat Facebook gebruikt om de authenticiteit van nieuws, afbeeldingen of andere inhoud te begrijpen die op dat sociale medium wordt geüpload. Zoals wordt uitgelegd, scant Rosetta “het woord, de afbeelding, de taal, het lettertype, de datum van de post en andere variabelen en probeert te zien of de gepresenteerde informatie echt is of niet.” Nadat het systeem de informatie heeft verzameld en in gedachten houdt dat AI nog niet volledig “in staat is om toespelingen, verwijzingen, hatelijke opmerkingen en de context waarin de inhoud werd gepost te begrijpen”, nemen menselijke moderators het over en leiden het AI-systeem om haatzaaiende taal en nepnieuws te ontdekken.

Om de mogelijkheden van de AI-systemen verder te ontwikkelen om alle mogelijke nuances te kunnen omvatten die haatzaaiende taal kenmerken, heeft een team van onderzoekers aan de UC Santa Barbara en Intel (INTC ), zoals TheNextWeb (TNW) rapporteert, “duizenden gesprekken uit de smerigste gemeenschappen op Reddit en Gab genomen en gebruikt om AI te trainen om haatzaaiende taal te bestrijden.”

Volgens hun rapport hebben de onderzoekers een specifieke dataset gemaakt met “duizenden gesprekken die speciaal zijn geselecteerd om ervoor te zorgen dat ze vol zouden zitten met haatzaaiende taal.” Ze gebruikten ook een lijst met groepen op Reddit die voornamelijk worden gekenmerkt door het gebruik van haatzaaiende taal, samengesteld door Justin Caffier van Vox.

De onderzoekers verzamelden “meer dan 22.000 reacties van Reddit en meer dan 33.000 van Gab.” Ze ontdekten dat de twee sites soortgelijke populaire haatzaaiende trefwoorden hebben, maar de verdelingen zijn heel verschillend.

Ze merkten op dat door deze verschillen het voor sociale media in het algemeen heel moeilijk is om in real-time in te grijpen, omdat de stroom van haatzaaiende taal zo hoog is dat het zou vereisen dat talloze echte personen het volgen.

Om het probleem aan te pakken, begon het onderzoeksteam AI te trainen om in te grijpen. Hun initiële database werd naar Amazon (AMZN ) Turk-werkers gestuurd om gelabeld te worden. Nadat de individuele gevallen van haatzaaiende taal waren geïdentificeerd, kwamen de werknemers met zinnen die AI zouden gebruiken “om gebruikers te weerhouden van het plaatsen van soortgelijke haatzaaiende taal in de toekomst.”

Op basis daarvan liep het team “deze dataset en hun database van interventies door verschillende machine learning- en natuurlijke taalverwerkingsystemen en creëerde een soort prototype voor een online haatzaaiende taalinterventie-AI.”

De resultaten waren uitstekend, maar omdat de ontwikkeling nog in een vroeg stadium is, is het systeem nog niet klaar om actief te worden gebruikt. Zoals wordt uitgelegd, “zou het systeem in theorie haatzaaiende taal moeten detecteren en onmiddellijk een bericht naar de poster sturen om te laten weten waarom ze dingen niet zouden moeten posten die duidelijk haatzaaiende taal vertegenwoordigen. Dit vereist meer dan alleen trefwoorddetectie – om het AI-systeem te laten werken, moet het de context goed krijgen.”