Startups luovat AI-työkaluja sähköpostihäirinnän havaitsemiseen

Me Too -liikkeen saadessa jalansijaa vuoden 2017 lopulla, on yhä enemmän huomiota kiinnitetty seksuaalisen häirinnän tapauksiin, mukaan lukien työpaikan häirintä ja sähköpostin tai välittömän viestinnän kautta tapahtuva häirintä.

The Guardianin mukaan AI-tutkijat ja insinöörit ovat luoneet työkaluja häirinnän havaitsemiseen tekstiviestinnässä, jotka on kutsuttu MeTooBoteiksi. MeTooBotteja käytetään jo useissa yrityksissä ympäri maailmaa mahdollisesti haitallisten ja häirinnän sisältävien viestien merkintään. Yksi esimerkki tästä on Nex AI -yhtiön luoma botti, jota noin 50 eri yritystä käyttää. Botti käyttää algoritmia, joka tarkastelee yrityksen asiakirjoja, chat-viestejä ja sähköposteja ja vertaa niitä koulutusaineistoon, joka sisältää häirintää tai uhkaavaa viestintää. Viestit, jotka katsotaan mahdollisesti häirinnän tai haitallisen sisällön sisältäviksi, voidaan lähettää henkilöstöjohtajalle tarkastettavaksi, vaikka Nex AI ei ole paljastanut tarkalleen, mitä termejä botti etsii analysoimissaan viesteissä.

Muita startup-yrityksiä on myös luonut AI-pohjaisia häirinnän havaitsemistyökaluja. AI-startup Spot omistaa chatbottin, joka mahdollistaa työntekijöiden anonyymin ilmoittamisen seksuaalisen häirinnän epäilyistä. Botti kysyy kysymyksiä ja antaa neuvoja kerätäkseen lisätietoja ja edistääkseen tapausten tutkintaa. Spot haluaa auttaa henkilöstötiimejä käsittelemään häirintätapauksia herkkästi säilyttäen anonyymiyden.

The Guardianin mukaan professori Brian Subirana, MIT:n ja Harvardin AI-professori, selitti, että yritykset käyttää AI:ta häirinnän havaitsemiseen ovat rajoittuneita. Häirintä voi olla hyvin hienovarainen ja vaikea havaita, usein ilmenevä vain kuukausien aikana kerääntyneiden tietojen kuviosta. Botit eivät myöskään voi vielä tällä hetkellä havaita tiettyjä laukaisevia sanoja ja analysoida laajempia vuorovaikutuksellisia tai kulttuurisia dynamiikkaa, jotka voivat olla mukana. Häirinnän havaitsemisen monimutkaisuudesta huolimatta Subirana uskoo, että botit voivat toimia osana häirinnän torjunnassa. Subirana näkee botteja käytettävän ihmisten kouluttamiseen häirinnän tunnistamiseen, luomalla tietokannan mahdollisesti ongelmallisista viesteistä. Subirana totesi myös, että voi olla placebo-vaikutus, joka tekee ihmisistä vähemmän häirintäalttiita, vaikka he epäilisivät viestien olevan tarkkailussa, vaikka ne eivät olisikaan.

Vaikka Subirana uskoo, että botit voivat olla hyödyllisiä häirinnän torjunnassa, hän myös korosti, että tietosuojan ja yksityisyyden suojaaminen on suuri huolenaihe. Subirana toteaa, että tällainen teknologia voi luoda epäluottamusta ja epäilyä, jos sitä käytetään väärin. Sam Smethers, naisten oikeuksien järjestön Fawcett Societyn toimitusjohtaja, ilmoitti myös olevansa huolissaan botien mahdollisesta väärinkäytöstä. Smethers totesi:

”Haluisimme tarkastella tarkkaan, miten teknologiaa kehitetään, kuka sen takana on ja onko lähestymistapa perusteltu työpaikan kulttuurissa, jossa pyritään estämään häirintää ja edistämään tasa-arvoa, vai onko se vain keino valvoa työntekijöitä.”

Botien ja AI:n ennakkoanalytiikan käytön menetelmiä on kehitettävä yhdessä botin kehittäjien, yritysten ja sääntelijöiden kanssa. Mahdollisia tapoja käyttää botien ennakkoanalytiikkaa suojelemalla yksityisyyttä ovat esimerkiksi viestien anonyyminen. Esimerkiksi botin generoimissa raporteissa voisi olla ainoastaan mahdollisesti haitallisen kielen läsnäolo ja sen esiintymistiheys. Henkilöstöjohtaja voisi silloin saada käsityksen siitä, onko myrkyllisen kielen käyttö vähentynyt tietoisuuskampanjoiden jälkeen tai pitäisikö olla valppaana mahdollisen häirinnän lisääntymisen suhteen.

Häirinnän havaitsemisessa käytettävien koneoppimisalgoritmien ja bottien käytön riitaamisesta huolimatta molemmat osapuolet näyttävät olevan samaa mieltä siitä, että lopullinen päätös häirinnän puuttumiseen tulisi olla ihmisen tehtävä, ja että botit tulisi ainoastaan hälyttää ihmisiä havaitsemistaan kuviosta eikä antaa lopullista päätöstä siitä, mitä häirintä on.