Inteligência Artificial agora está sendo usada para detectar cyberbullying em crianças em idade escolar

Os dados sobre bullying, automutilação e cyberbullying entre crianças em idade escolar em todo o mundo estão se tornando alarmantes. Conforme apresentado por Jun Wu, dados dos EUA mostram que em 2017, De acordo com o National Center for Education Statistics e o Bureau of Justice, cerca de 20% dos alunos de 12 a 18 anos sofreram bullying. De acordo com as Centro de Controle e Prevenção de Doenças, 19% dos alunos da 9ª à 12ª série relatam ter sofrido bullying na propriedade da escola nos 12 meses anteriores à pesquisa.

O que está se tornando ainda mais alarmante, espalhando-se além das próprias dependências da escola, é o aumento do cyberbullying. Como aponta Wu, “o assédio em fóruns online, por e-mails e em plataformas de mídia social geralmente pode ser mais prejudicial à saúde mental da vítima do que o bullying pessoal. O cyberbullying geralmente pode ser uma escalada do bullying escolar. Ao mesmo tempo, o bullying pode começar nas redes sociais e depois chegar à sala de aula.”

Na Austrália, pesquisadores estão relatando sobre o fenômeno denominado Momo, que envolve uma situação em que “predadores cibernéticos estavam assumindo uma persona chamada Momo e entrando em contato com crianças via mídia social, pedindo-lhes que se machucassem, enviou ondas de preocupação pelas escolas de todo o país”.

Prevenir tal intimidação e possível automutilação causada pela depressão levou vários desenvolvedores de inteligência artificial a tentar buscar soluções para esse problema generalizado.

As Skynews relatórios, algumas escolas britânicas começaram a usar uma ferramenta de IA chamada AS Tracking, desenvolvida por uma empresa chamada STEER, que entrou em uso em 150 escolas na Grã-Bretanha. A ferramenta envolve alunos fazendo um teste psicológico online e, em setembro de 2019, o teste será feito por 50,000 alunos.

Como é explicado, o teste, pede aos alunos que imaginem um espaço em que se sintam confortáveis ​​e, em seguida, faz uma série de perguntas abstratas, como "quão fácil é para alguém entrar no seu espaço?" A criança pode então responder clicando em um botão em uma escala que vai de “muito fácil” a “muito difícil”. Os resultados são enviados para o STEER, “que compara os dados com seu modelo psicológico e sinaliza os alunos que precisam de atenção em seu painel do professor”.

De acordo com o Dr. Jo Walker, co-fundador da STEER, “nossa ferramenta destaca aquelas crianças em particular que estão lutando nessa fase específica de seu desenvolvimento e aponta para os professores como essa criança está pensando.” Ele acrescenta que “desde a introdução, a faculdade observou uma redução de 20% nas automutilações”.

Em sua análise, Wu menciona vários desenvolvedores de IA nos EUA que estão ajudando com o problema. Securly usa IA para criar “filtragem da web, monitoramento de cyberbullying e alertas de automutilação para escolas. As escolas podem distribuir dispositivos Apple e Chromebooks para os alunos enquanto monitoram as atividades cibernéticas dos alunos. Os pais também podem usar os aplicativos em seus dispositivos domésticos para monitorar as atividades online de seus filhos.” casca usa IA para monitorar mensagens de texto, YouTube, e-mails e 24 redes sociais diferentes para alertar os pais sobre possíveis problemas de segurança. SN Technologies Corp. vai um passo além, pois suas soluções de IA usam o reconhecimento facial para rastrear alunos da 'lista negra' nas escolas a partir de vídeos de câmeras de vigilância nas próprias escolas.

Na Austrália, a startup de segurança cibernética Saasyan Assure desenvolveu um método de IA que pode ajudar os professores a rastrear os alunos enquanto assistem aos vídeos do “Desafio Momo”. Greg Margossian, chefe da Saasyan Assure disse que sua empresa “apenas se certificou de que a palavra-chave "Momo" estava em todos os bancos de dados do cliente, sem que eles sequer pensassem nisso." É acrescentado que a empresa "oferece um software de assinatura que pode ser adicionado a todos os dispositivos da escola para criar um registro histórico do uso do computador de cada aluno e avisar os professores caso surja algum risco, desde bullying até possível automutilação ou violência."