Forskare börjar utbilda artificiell intelligens för att bekämpa hatretor på nätet

Falska nyheter och hatretor på nätet blir inte bara ett dagligt, utan ett minut-för-minut-problem på nätet. IkigaiLab rapporterar att Facebook (META ) och Twitter nyligen tvingades stänga över 1,5 miljarder respektive 70 miljoner konton för att försöka bromsa spridningen av falska nyheter och hatretor runt om i världen.

Ändå kräver en sådan uppgift för närvarande enorm mänsklig kraft och nästan konstanta arbetstimmar för att bara ta en liten del av hatretorns isberg. För att lösa problemet börjar forskare på många laboratorier att utbilda artificiell intelligens (AI) för att hjälpa till med denna enorma uppgift.

Ikigai citerar Rosetta-systemet som Facebook använder för att förstå äktheten i nyheter, bilder eller annan innehåll som laddas upp på det sociala mediet. Som förklaras, vad Rosetta gör är att skanna “ord, bild, språk, teckensnitt, datum för inlägg bland andra variabler och försöker avgöra om den information som presenteras är äkta eller inte.” Efter att systemet har samlat in informationen och med tanke på att AI fortfarande inte är fullständigt “anpassad för att förstå antydningar, hänvisningar, försåt och sammanhang där innehållet publicerades,” tar mänskliga moderatorer över och vägleder AI-systemet för att upptäcka hatretor och falska nyheter.

För att försöka ytterligare utveckla AI-systemens förmåga att kunna täcka alla möjliga nyanser som kännetecknar hatretor, har en grupp forskare vid UC Santa Barbara och Intel (INTC ), som TheNextWeb (TNW) rapporterar, “tagit tusentals samtal från de smutsigaste samhällena på Reddit och Gab och använt dem för att utveckla och utbilda AI för att bekämpa hatretor.”

Enligt deras rapport skapade den gemensamma forskargruppen en specifik dataset som innehåller “tusentals samtal som särskilt valts ut för att säkerställa att de skulle vara fulla av hatretor.” De använde också en lista över grupper på Reddit som mestadels kännetecknas av användning av hatretor, sammanställd av Justin Caffier of Vox.

Forskarna samlade in “mer än 22 000 kommentarer från Reddit och över 33 000 från Gab.” De upptäckte att de två webbplatserna visar liknande populära hatnyckelord, men fördelningarna är mycket olika.

De noterade att på grund av dessa skillnader är det mycket svårt för sociala medier i allmänhet att ingripa i realtid, eftersom flödet av hatretor är så högt att det skulle kräva otaliga verkliga personer för att följa det.

För att ta itu med problemet började forskarteamet att utbilda AI för att ingripa. Deras initiala databas skickades till Amazon (AMZN ) Turk-arbetare för att märkas. Efter att ha identifierat enskilda instanser av hatretor kom arbetarna med fraser som AI skulle användas för att “avråda användare från att publicera liknande hatretor i framtiden.”

Baserat på det körde teamet “denna dataset och dess databas med ingripanden genom olika maskinlärnings- och naturligt språkbehandlingsystem och skapade en sorts prototyp för en online-hatretor-interventions-AI.”

Resultaten var utmärkta, men eftersom utvecklingen fortfarande är i ett tidigt skede är systemet inte redo att användas ännu. Som förklaras, “ska systemet i teorin upptäcka hatretor och omedelbart skicka ett meddelande till avsändaren och låta dem veta varför de inte bör publicera saker som uppenbarligen representerar hatretor. Detta bygger på mer än bara nyckelordsdetektering – för att AI ska fungera måste den få sammanhanget rätt.”