Artificiell intelligens används nu för att upptäcka cybermobbing bland skolbarn

Data om mobbning, självskada och cybermobbing bland skolbarn runt om i världen blir alltmer alarmerande. Som Jun Wu presenterar, visar data från USA att år 2017, Enligt National Center for Education Statistics och Bureau of Justice, upplevde cirka 20% av studenterna i åldern 12–18 år mobbning. Enligt Centers for Disease Control and Prevention, rapporterade 19% av studenterna i årskurs 9–12 att de hade blivit mobbade på skolans område under de 12 månader som föregick undersökningen.

Det som blir ännu mer alarmerande och sprider sig bortom skolområdet är den ökande cybermobbingen. Som Wu påpekar, “trakasserier på nätforum, via e-post och på sociala medier kan ofta vara mer skadliga för offrets mentala hälsa än personlig mobbning. Cybermobbing kan ofta vara en eskalering av skolmobbning. Samtidigt kan mobbning börja på sociala medier och sedan sprida sig till klassrummet.”

I Australien rapporterar forskare om fenomenet Momo, som innebär att “cyberförbrytare antog en person som kallades Momo och kontaktade barn via sociala medier och bad dem att skada sig själva, vilket skickade chockvågor av oro genom skolor i hela landet.”

Förebyggandet av sådan mobbning och möjlig självskada orsakad av depression har fått flera utvecklare av artificiell intelligens att försöka hitta lösningar på detta utbredda problem.

Som SkyNews rapporterar, har vissa brittiska skolor börjat använda ett AI-verktyg som kallas AS Tracking, som utvecklats av företaget STEER, som använts i 150 skolor i Storbritannien. Verktyget involverar att eleverna genomgår en onlinepsykologisk test, och i september 2019 kommer testet att genomföras av 50 000 skolbarn.

Som förklaras, testet ber eleverna att föreställa sig en plats där de känner sig bekväma, och sedan ställer en serie abstrakta frågor, som “hur lätt är det för någon att komma in i din plats?” Eleverna kan sedan svara genom att klicka på en knapp på en skala som sträcker sig från “mycket lätt” till “mycket svårt”. Resultaten skickas till STEER, “som jämför data med sin psykologiska modell och sedan flaggar elever som behöver uppmärksamhet i sin lärardashboard.”

Enligt Dr. Jo Walker, medgrundare av STEER, “vårt verktyg lyfter fram de barn som kämpar i denna fas av sin utveckling och pekar lärarna på hur det barnet tänker.” Han tillägger att “sedan vi införde det har college sett en minskning med 20% av självskada.”

I sin analys nämner Wu flera AI-utvecklare i USA som hjälper till med problemet. Securly använder AI för att skapa “webbfilter, cybermobbningsövervakning och självskadevarningar för skolor. Skolor kan ge ut Apple-enheter och Chromebooks till eleverna medan de övervakar elevernas cyberaktiviteter. Föräldrar kan också använda apparna på sina hemmadatorer för att övervaka sina barns onlineaktiviteter.” Bark använder AI för att övervaka textmeddelanden, YouTube, e-post och 24 olika sociala nätverk för att varna föräldrar om potentiella säkerhetsproblem. SN Technologies Corp går ett steg längre, eftersom deras AI-lösningar använder ansiktsigenkänning för att spåra “svarta listade” studenter i skolor från videor av övervakningskameror i skolorna själva.

I Australien har cybersecurity-startup-företaget Saasyan Assure utvecklat en AI-metod som kan hjälpa lärare att spåra elever när de tittar på “Momo Challenge”-videor. Greg Margossian, chef för Saasyan Assure, sa att hans företag “bara såg till att se till att ‘Momo’-nyckelordet fanns i alla kunders databaser, utan att de ens tänkte på det.” Det tilläggs att företaget “erbjuder en prenumerationsmjukvara som kan läggas till på alla enheter i skolan för att skapa en historisk fotavtryck av varje elevs datoranvändning och pinga lärare om några risker, från mobbning till möjlig självskada eller våld, uppstår.”