인공지능, 학교 아이들을 괴롭히는 사이버 불링検出에 사용

전 세계 학교 아이들 사이에서 벌어지는 괴롭힘, 자해, 사이버 불링에 대한 데이터는 점점 더 경각심을 요구하고 있다. Jun Wu가 제시한 미국의 데이터에 따르면, 2017년에 국립교육통계센터와 법무부에 따르면, 12세에서 18세 사이의 학생들 중 약 20%가 괴롭힘을 경험했다. 센터에 따르면, 9학년에서 12학년까지의 학생들 중 19%가 조사 이전 12개월 동안 학교에서 괴롭힘을 경험했다.

さらに驚くべき 것은, 학교 밖에서 벌어지는 사이버 불링의 증가이다. Wu는 “온라인 포럼, 이메일, 소셜 미디어 플랫폼에서 벌어지는 괴롭힘은 직접적인 괴롭힘보다 피해자의 정신 건강에 더 큰 피해를 줄 수 있다. 사이버 불링은 학교에서 벌어지는 괴롭힘의 확대일 수도 있다.同時에, 사이버 불링은 소셜 미디어에서 시작되어 교실로까지 퍼질 수 있다.”

호주에서 연구자들은 ‘모모’라고 불리는 현상을 보고하고 있다. 이는 “사이버 괴롭힘범이 ‘모모’라는 가명을 사용하여 아이들에게 접근하여 자해를 요구하는 경우”를 말한다. 이는 호주 전역의 학교에 경각심을 불러일으켰다.

이러한 괴롭힘과 자해를 예방하기 위해 인공지능 개발자들은 이를 해결하기 위한 방법을 모색하고 있다.

SkyNews에 따르면, 영국의 일부 학교에서는 STEER라는 회사가 개발한 AS Tracking이라는 인공지능 도구를 사용하기 시작했다. 이 도구는 학생들이 온라인 심리 테스트를 받는 것으로, 2019년 9월에는 5만 명의 학생이 이 테스트를 받게 될 예정이다.

설명에 따르면, 이 테스트는 학생들에게 편안한 공간을 상상하게 한 뒤, “누군가가 당신의 공간에 들어오는 것이 얼마나 쉬운가?”와 같은 추상적인 질문을 한다. 학생들은 “매우 쉬움”에서 “매우 어려움”까지의 범위에서 버튼을 클릭하여 응답할 수 있다. 결과는 STEER에 전송되며, STEER는 이를 자신의 심리 모델과 비교한 뒤, 교사 대시보드에서 주의가 필요한 학생들을 표시한다.

STEER의 공동 창립자인 Jo Walker 박사는 “우리의 도구는 특정 학생들이 어려움을 겪고 있는 것을 강조하며, 교사들에게 그 학생이 어떻게 생각하는지 알려준다”고 말했다. 그는 “이 도구를 도입한 이후, 자해 시도가 20% 감소했다”고 추가했다.

Wu의 분석에 따르면, 미국의 여러 인공지능 개발자들이 이 문제를 해결하기 위해 노력하고 있다. Securly는 학교에서 “웹 필터링, 사이버 불링 감시, 자해 경고”를 위한 인공지능을 사용한다. 학교는 학생들에게 Apple (AAPL ) 기기와 Chromebook을 발급할 수 있으며, 학생들의 사이버 활동을 모니터링할 수 있다. 부모들은 또한 자녀들의 온라인 활동을 모니터링하기 위해 집에서 앱을 사용할 수 있다. Bark는 문자 메시지, YouTube, 이메일, 24개의 소셜 네트워크를 모니터링하여 부모들에게 잠재적인 안전 문제를 경고한다. SN Technologies Corp는 더 나아가서, 학교의 감시 카메라 비디오에서 ‘블랙리스트’에 오른 학생들을 얼굴 인식 기술을 사용하여 추적한다.

호주에서는 사이버 보안 스타트업인 Saasyan Assure가 ‘모모 챌린지’ 동영상 시청 학생들을 추적하기 위한 인공지능 방법을 개발했다. Saasyan Assure의 대표인 Greg Margossian은 “우리는 단순히 ‘모모’ 키워드를 클라이언트의 데이터베이스에 추가했을 뿐이다. 그들은 그것을 생각하지도 못했다”고 말했다. 그는 또한 “회사는 모든 학교 기기에 추가할 수 있는 구독 소프트웨어를 제공하며, 각 학생의 컴퓨터 사용 기록을 생성하고, 교사들에게 잠재적인 위험이 발생할 경우 경고를 보낸다”고 추가했다.