Искусственный интеллект теперь используется для обнаружения кибербуллинга у школьников

Данные о буллинге, самоуничтожении и кибербуллинге среди школьников во всем мире становятся тревожными. Как представил Джун Ву, данные из США показывают, что в 2017 году, согласно Национальному центру статистики образования и Бюро юстиции, около 20% студентов в возрасте 12-18 лет испытали буллинг. Согласно Центру по контролю и профилактике заболеваний, 19% студентов в классах 9-12 сообщают о буллинге на территории школы в течение 12 месяцев, предшествующих опросу.

Что становится еще более тревожным, распространяясь за пределы территории школ, – это рост кибербуллинга. Как указывает Ву, “преследование в онлайн-форумах, по электронной почте и на социальных платформах может часто быть более вредным для психического здоровья жертвы, чем буллинг лично. Кибербуллинг может часто быть эскалацией школьного буллинга. В то же время буллинг может начаться в социальных сетях, а затем распространиться на класс.”

В Австралии исследователи сообщают о явлении под названием Момо, которое включает ситуацию, в которой “киберпреступники брали на себя персону под названием Момо и связывались с детьми через социальные сети, прося их навредить себе, послало волны беспокойства через школы по всей стране.”

Предотвращение такого буллинга и возможного самоуничтожения, вызванного депрессией, заставило разработчиков искусственного интеллекта искать решения этой широко распространенной проблемы.

Как сообщает SkyNews, некоторые британские школы начали использовать инструмент искусственного интеллекта под названием AS Tracking, разработанный компанией STEER, который используется в 150 школах Великобритании. Инструмент включает в себя прохождение студентами онлайн-психологического теста, и в сентябре 2019 года тест будет пройден 50 000 школьников.

Как объясняется, тест просит студентов представить себе пространство, в котором они чувствуют себя комфортно, затем задает серию абстрактных вопросов, таких как “насколько легко кому-то войти в ваше пространство?” Ребенок может затем ответить, нажав кнопку на шкале, которая варьируется от “очень легко” до “очень трудно”. Результаты отправляются в STEER, “который сравнивает данные со своей психологической моделью, затем выделяет студентов, которым требуется внимание в панели учителя.”

Согласно доктору Джо Уокер, сооснователю STEER, “наш инструмент выделяет тех конкретных детей, которые испытывают трудности на этом этапе своего развития, и указывает учителям, как этот ребенок думает.” Он добавляет, что “с момента введения колледжа мы увидели снижение самоуничтожения на 20%.”

В своем анализе Ву упоминает несколько разработчиков искусственного интеллекта в США, которые помогают решить эту проблему. Securly использует искусственный интеллект для создания “филтрации веб-страниц, мониторинга кибербуллинга и предупреждений о самоуничтожении для школ. Школы могут выдавать студентам устройства Apple и Chromebook, а также отслеживать киберактивность студентов. Родители также могут использовать приложения на своих домашних устройствах, чтобы отслеживать онлайн-активность своих детей.” Bark использует искусственный интеллект для мониторинга текстовых сообщений, YouTube, электронной почты и 24 различных социальных сетей, чтобы предупредить родителей о потенциальных проблемах безопасности. SN Technologies Corp идет дальше, поскольку его решения на основе искусственного интеллекта используют распознавание лиц для отслеживания “черных” студентов в школах с помощью видеокамер наблюдения в самих школах.

В Австралии стартап в области кибербезопасности Saasyan Assure разработал метод на основе искусственного интеллекта, который мог бы помочь учителям отслеживать студентов, когда они смотрели видео “Момо Челлендж”. Грег Маргоссян, руководитель Saasyan Assure, сказал, что его компания “просто убедилась, что слово ‘Момо’ было во всех базах данных клиентов, без их даже размышлений об этом.” Добавляется, что компания “предлагает программное обеспечение по подписке, которое можно добавить ко всем устройствам в школе, чтобы создать исторический след каждого студента и предупредить учителей, если возникают какие-либо риски, от буллинга до возможного самоуничтожения или насилия.”