人工知能が学校でのサイバーバーリングの検出に使用されている

世界中の学校の子供たちにおけるいじめ、自傷行為、サイバーバーリングに関するデータは、危険なレベルに達しています。Jun Wuによると、2017年の米国でのデータによると、国立教育統計センターと司法省のデータによると、12歳から18歳の学生の約20%がいじめを受けたことがあります。また、疾病対策センターによると、9〜12年生の約19%の学生が、調査前の12ヶ月間に学校敷地内でいじめを受けたと報告しています。

さらに心配なのは、学校の敷地を超えて広がるサイバーバーリングの増加です。Wuによると、「オンラインフォーラム、メール、ソーシャルメディアプラットフォームでのハラスメントは、対面でのいじめよりも被害者の精神衛生に多大な被害を与えることがあります。サイバーバーリングは、学校でのいじめからエスカレートすることがあります。一方、学校でのいじめは、ソーシャルメディアで始まり、教室にまで広がることがあります。」

オーストラリアでは、研究者们は「サイバープレデターが「Momo」という名前で子供たちに接触し、自傷行為を促すという現象を報告しています。この現象は、全土の学校に波紋を広げています。」

いじめや自傷行為を予防するために、人工知能開発者たちは、この広範な問題に対する解決策を模索しています。

SkyNewsによると、イギリスのいくつかの学校では、STEER社が開発したAS TrackingというAIツールを使用しています。このツールは、150校で使用されており、2019年9月には5万人の学生がオンライン心理テストを受ける予定です。

説明によると、テストでは、学生に安心できる空間を想像するよう求め、抽象的な質問（例：「誰かがあなたの空間に入ってくるのはどのくらい簡単ですか？」）を出すと、学生は「とても簡単」から「とても難しい」までのスケールで回答できます。結果はSTEERに送られ、「教師用ダッシュボードに注意が必要な学生をフラグ付けします。」

STEERの共同創設者であるJo Walker博士によると、「私たちのツールは、特定の段階で苦労している子供たちを強調し、教師がその子供たちの考え方を理解できるようにします。」彼はさらに、「導入して以来、自傷行為が20%減少しました。」

Wuの分析では、いじめ問題に対処するために協力している米国のAI開発者について言及しています。Securlyは、「ウェブフィルタリング、サイバーバーリング監視、自傷行為アラートを学校に提供するためにAIを使用しています。学校は、学生にAppleデバイスやChromebookを発行し、サイバー活動を監視できます。保護者も、自宅のデバイスで子供たちのオンライン活動を監視できます。」Barkは、テキストメッセージ、YouTube、メール、24のソーシャルネットワークを監視して、保護者に潜在的な安全上の懸念をアラートします。SN Technologies Corpは、さらに進んでおり、AIソリューションを使用して、学校の監視カメラのビデオから「ブラックリスト」に入れた学生を顔認識で追跡しています。

オーストラリアでは、サイバーセキュリティスタートアップのSaasyan Assureは、教師が「Momo Challenge」動画を閲覧している学生を追跡するAI方法を開発しました。Saasyan AssureのGreg Margossian氏は、「私たちは、クライアントのデータベースに「Momo」というキーワードを追加しました。」と述べています。また、「学校のすべてのデバイスに追加できるサブスクリプションソフトウェアを提供し、各学生のコンピュータ使用履歴を追跡し、教師にいじめや自傷行為の可能性について通知します。」