Startups skaber AI-værktøjer til at opdage e-mail-chikane

Siden Me Too-bevægelsen fik fremtræden i slutningen af 2017, er der blevet lagt mere og mere opmærksomhed på tilfælde af seksuel chikane, herunder arbejdspladschikane og chikane via e-mail eller instantbeskeder.

Ifølge The Guardian har AI-forskere og ingeniører været i gang med at udvikle værktøjer til at opdage chikane gennem tekstkommunikation, kaldet MeTooBots. MeTooBots er blevet implementeret af virksomheder over hele verden for at markere potentielt skadelig og chikanerende kommunikation. Et eksempel på dette er en bot, der er blevet skabt af virksomheden Nex AI, som for øjeblikket bruges af omkring 50 forskellige virksomheder. Bot’en bruger en algoritme, der undersøger virksomhedens dokumenter, chat og e-mails og sammenligner dem med dens træningsdata af bullying- eller chikanerende beskeder. Beskeder, der anses for at være potentielt chikanerende eller skadelig, kan derefter sendes til en HR-chef for gennemsyn, selvom Nex AI ikke har afsløret de specifikke termer, som bot’en søger efter i kommunikationen, den analyserer.

Andre startups har også skabt AI-drevne chikane-opdagede værktøjer. AI-startup’et Spot ejer en chatbot, der kan aktivere medarbejdere til at anonymt rapportere beskyldninger om seksuel chikane. Bot’en vil stille spørgsmål og give råd for at indsamle flere oplysninger og fremme en undersøgelse af tilfældet. Spot ønsker at hjælpe HR-hold med at tackle chikane-problemer på en følsom måde, mens de stadig opretholder anonymitet.

Ifølge The Guardian forklarede professor Brian Subirana, MIT og Harvard AI-professor, at forsøg på at bruge AI til at opdage chikane har deres begrænsninger. Chikane kan være meget subtil og svær at opdage, ofte kun åbenbarer det sig som et mønster, der afsløres, når man undersøger uger af data. Bot’er kan heller ikke, som det ser ud til, gå ud over opdagede triggerord og analysere de bredere interpersonelle eller kulturelle dynamikker, der potentielt kan være i spil. Trods kompleksiteten ved at opdage chikane, tror Subirana, at bot’er kan spille en rol i bekæmpelsen af online-chikane. Subirana kan se, hvordan bot’er kan bruges til at træne mennesker til at opdage chikane, når de ser det, og skabe en database over potentielt problematiske beskeder. Subirana sagde også, at der kunne være en placebo-effekt, der gør, at mennesker er mindre tilbøjelige til at chikanere deres kolleger, selvom de mistænker, at deres beskeder måske bliver gennemset, selvom de ikke er.

mens Subirana mener, at bot’er har deres potentiale anvendelser i bekæmpelsen af chikane, argumenterede Subirana også for, at fortrolighed af data og privatliv er en stor bekymring. Subirana siger, at sådan teknologi potentielt kan skabe en atmosfære af mistillid og formodning, hvis den misbruges. Sam Smethers, direktør for kvinders rettigheds-NGO Fawcett Society, udtrykte også bekymring over, hvordan bot’er kunne misbruges. Smethers sagde:

“Vi ville ønske at se nøje på, hvordan teknologien udvikles, hvem der står bag den, og om tilgangen er informeret af en arbejdspladskultur, der søger at forhindre chikane og fremme lighed, eller om det i virkeligheden blot er endnu en måde at kontrollere medarbejderne på.”

Måder at bruge bot’er til at opdage chikane og stadig beskytte anonymitet og privatliv vil måtte udvikles mellem bot-udviklere, virksomheder og regulatorer. Nogle mulige måder at udnytte bot’ers og AI’s predictive kraft, mens man stadig beskytter privatliv, inkluderer at holde kommunikation anonym. For eksempel kan rapporter genereres af bot’en, der kun inkluderer tilstedeværelsen af potentielt skadelig sprog og antallet af gange, det muligvis chikanerende sprog optræder. HR kan derefter få en idé om, hvis brugen af giftigt sprog falder efter bevidsthedsseminarer, eller omvendt kan bestemme, om de skal være på udkig efter øget chikane.

Trods uenigheden om den passende brug af maskinlæringsalgoritmer og bot’er i opdagede chikane, synes begge sider at være enige om, at den endelige beslutning om at gribe ind i chikanetilfælde skal træffes af et menneske, og at bot’er kun nogensinde skal advare mennesker om mønstre, der er fundet, og ikke definitivt sige, at noget var et tilfælde af chikane.