人工知能が学校の子どもたちのサイバーハラスメントを検知するために使用されている

世界中の学校の子どもたちにおけるいじめ、自殺、サイバーハラスメントに関するデータは、深刻なものとなっている。Jun Wuによって提示されたデータによると、アメリカでは2017年には、国立教育統計センターと司法省によると、12歳から18歳の学生の約20%がいじめを受けたことがある。アメリカ疾病予防管理センターによると、9年生から12年生の学生の約19%が、調査前の12ヶ月間に学校でいじめを受けたことがある。

さらに心配なのは、学校の敷地内を超えて広がるサイバーハラスメントの増加である。Wuは、「オンラインフォーラム、メール、ソーシャルメディアプラットフォームでのハラスメントは、対面でのいじめよりも被害者の精神衛生に多大な被害を及ぼすことがある。サイバーハラスメントは、学校でのいじめのエスカレーションとなることがある。一方、ソーシャルメディアでのいじめがクラスルームに波及することもある。」と指摘している。

オーストラリアでは、研究者们が「サイバーハラスメント者が「Momo」という名前を使い、子供たちに自殺を促すメッセージを送っていた」という現象について報告している。この現象は、オーストラリア中の学校に波及し、深刻な懸念を引き起こしている。

いじめやうつ病による自殺を防ぐために、多くの人工知能開発者が解決策を模索し始めた。

SkyNewsによると、イギリスの一部の学校では、STEER社が開発したAS TrackingというAIツールを使用し始めた。同ツールでは、生徒がオンラインの心理テストを受け、2019年9月には5万人の生徒が同テストを受ける予定である。

説明によると、同テストでは、生徒に安心できる空間を想像させ、抽象的な質問を出す。生徒は、スケールで回答することができる。結果はSTEER社に送られ、教師のダッシュボードに表示される。

STEER社の共同創設者であるJo Walker博士によると、「私たちのツールは、特定の生徒が苦しんでいることを強調し、教師にその生徒の思考を示す。」同博士は、「同ツールを導入してから、自殺の件数が20%減少した」と述べた。

Wuの分析によると、アメリカでは、Securlyが、「ウェブフィルタリング、サイバーハラスメント監視、自殺予防アラートを学校に提供している。」Securlyは、「学校がAppleデバイスやChromebookを生徒に発行し、生徒のサイバー活動を監視できる。」また、Barkは、「AIを使用して、テキストメッセージ、YouTube、メール、24のソーシャルネットワークを監視し、保護者に潜在的な安全上の懸念を通知する。」SN Technologies Corpは、「AIを使用して、学校の監視カメラの映像から、ブラックリストに入れた生徒を追跡する。」

オーストラリアでは、サイバーセキュリティ企業のSaasyan Assureが、教師が「Momo Challenge」動画を生徒が見ているかどうかを追跡できるAIメソッドを開発した。同社のGreg Margossian氏は、「私たちは、クライアントのデータベースに「Momo」キーワードを追加するだけで、問題を解決できた。」同社は、「学校のすべてのデバイスに追加できるサブスクリプションソフトウェアを提供し、教師が生徒のコンピュータ使用履歴を追跡し、いじめや自殺の可能性がある場合に教師に通知する。」