A Inteligência Artificial Está Sendo Usada Para Detectar Bullying Cibernético em Crianças Escolares

Os dados sobre bullying, autolesão e ciberbullying entre crianças escolares em todo o mundo estão se tornando alarmantes. Conforme apresentado por Jun Wu, os dados dos EUA mostram que em 2017, De acordo com o National Center for Education Statistics e Bureau of Justice, cerca de 20% dos estudantes com idades entre 12 e 18 anos sofreram bullying. De acordo com o Centro de Controle e Prevenção de Doenças, 19% dos estudantes nas séries 9-12 relataram ter sido vítimas de bullying na escola nos 12 meses anteriores à pesquisa.

O que está se tornando ainda mais alarmante, espalhando-se além dos próprios terrenos escolares, é o aumento do ciberbullying. Como Wu destaca, “o assédio em fóruns online, por e-mails e em plataformas de mídia social pode ser mais prejudicial à saúde mental da vítima do que o bullying pessoal. O ciberbullying pode ser uma escalada do bullying escolar. Ao mesmo tempo, o bullying pode começar nas mídias sociais e se espalhar para a sala de aula.”

Na Austrália, os pesquisadores estão relatando sobre o fenômeno chamado Momo, que envolve uma situação em que “predadores cibernéticos estavam assumindo uma personalidade chamada Momo e entrando em contato com crianças por meio das mídias sociais, pedindo que elas se machucassem, provocou ondas de preocupação em escolas em todo o país.”

Prevenir esse tipo de bullying e possíveis autolesões causadas pela depressão levou vários desenvolvedores de inteligência artificial a procurar soluções para esse problema generalizado.

Conforme relata a SkyNews, algumas escolas britânicas começaram a usar uma ferramenta de IA chamada AS Tracking, desenvolvida por uma empresa chamada STEER, que foi implantada em 150 escolas na Grã-Bretanha. A ferramenta envolve os estudantes realizando um teste psicológico online, e em setembro de 2019, o teste será realizado por 50.000 crianças em idade escolar.

Como é explicado, o teste pede que os estudantes imaginem um espaço em que se sentem confortáveis, e então faz uma série de perguntas abstratas, como “quão fácil é para alguém entrar no seu espaço?” A criança pode então responder clicando em um botão em uma escala que vai de “muito fácil” a “muito difícil”. Os resultados são enviados para a STEER, “que compara os dados com seu modelo psicológico e, em seguida, sinaliza os estudantes que precisam de atenção em seu painel de controle para professores.”

De acordo com a Dra. Jo Walker, co-fundadora da STEER, “nossa ferramenta destaca as crianças específicas que estão lutando nessa fase particular de seu desenvolvimento e aponta os professores para como essa criança está pensando.” Ela acrescenta que “desde que introduzimos a ferramenta, a escola viu uma redução de 20% nos casos de autolesão.”

Em sua análise, Wu menciona vários desenvolvedores de IA nos EUA que estão ajudando a resolver o problema. Securly usa a IA para criar “filtragem da web, monitoramento de ciberbullying e alertas de autolesão para escolas. As escolas podem fornecer dispositivos Apple (AAPL ) e Chromebooks para os estudantes enquanto monitoram as atividades cibernéticas dos estudantes. Os pais também podem usar os aplicativos em seus dispositivos domésticos para monitorar as atividades online de seus filhos.” Bark usa a IA para monitorar mensagens de texto, YouTube, e-mails e 24 redes sociais diferentes para alertar os pais sobre possíveis preocupações de segurança. SN Technologies Corp vai um passo além, pois suas soluções de IA usam reconhecimento facial para rastrear estudantes “blacklistados” em escolas a partir de vídeos de câmeras de vigilância nas próprias escolas.

Na Austrália, a startup de cibersegurança Saasyan Assure desenvolveu um método de IA que pode ajudar os professores a rastrear os estudantes quando eles estavam assistindo vídeos do “Desafio Momo”. Greg Margossian, chefe da Saasyan Assure, disse que sua empresa “apenas garantimos que a palavra-chave ‘Momo’ estivesse em todos os bancos de dados dos clientes, sem que eles sequer pensassem nisso.” Acrescenta-se que a empresa “oferece um software de assinatura que pode ser adicionado a todos os dispositivos da escola para criar um histórico de uso do computador de cada estudante e alertar os professores se algum risco, desde bullying até possível autolesão ou violência, surgir.”