Trí tuệ nhân tạo hiện đang được sử dụng để phát hiện bắt nạt trên mạng ở học sinh

Dữ liệu về bắt nạt, tự làm hại bản thân và bắt nạt trên mạng ở học sinh trên khắp thế giới đang trở nên đáng báo động. Theo trình bày của Jun Wu, dữ liệu từ Hoa Kỳ cho thấy rằng trong 2017, Theo Trung tâm Thống kê Giáo dục Quốc gia và Cục Tư pháp, khoảng 20% ​​học sinh từ 12–18 tuổi đã từng bị bắt nạt. Theo Trung tâm kiểm soát và phòng ngừa dịch bệnh, 19% học sinh từ lớp 9–12 cho biết đã bị bắt nạt trong khuôn viên trường học trong 12 tháng trước cuộc khảo sát.

Điều đang trở nên đáng báo động hơn, lan rộng ra ngoài khuôn viên trường học là sự gia tăng của bắt nạt trên mạng. Như Wu đã chỉ ra, “quấy rối trên các diễn đàn trực tuyến, qua email và trên các nền tảng truyền thông xã hội thường có thể gây tổn hại cho sức khỏe tâm thần của nạn nhân hơn là bắt nạt trực tiếp. Bắt nạt trên mạng thường có thể là sự leo thang từ bắt nạt học đường. Đồng thời, bắt nạt có thể bắt đầu trên mạng xã hội, sau đó xâm nhập vào lớp học.”

Tại Úc, các nhà nghiên cứu đang báo cáo về hiện tượng có tên là Momo, liên quan đến một tình huống trong đó “những kẻ săn mồi trên mạng đang đảm nhận một nhân vật tên là Momo và liên lạc với trẻ em thông qua phương tiện truyền thông xã hội yêu cầu họ làm tổn thương chính mình, đã gửi những làn sóng lo ngại đến các trường học trên cả nước.”

Ngăn chặn hành vi bắt nạt và khả năng tự làm hại bản thân do trầm cảm như vậy đã thúc đẩy một số nhà phát triển trí tuệ nhân tạo cố gắng tìm kiếm giải pháp cho vấn đề phổ biến này.

As skynews báo cáo, một số trường học ở Anh đã bắt đầu sử dụng một công cụ AI có tên là Theo dõi AS, được phát triển bởi một công ty có tên STEER, được đưa vào sử dụng tại 150 trường học ở Anh. Công cụ này liên quan đến việc học sinh làm bài kiểm tra tâm lý trực tuyến và vào tháng 2019 năm 50,000, bài kiểm tra sẽ được thực hiện bởi XNUMX học sinh.

Như được giải thích, bài kiểm tra, yêu cầu học sinh tưởng tượng về một không gian mà họ cảm thấy thoải mái, sau đó đặt ra một loạt câu hỏi trừu tượng, chẳng hạn như “ai đó dễ dàng bước vào không gian của bạn như thế nào?” Sau đó, đứa trẻ có thể trả lời bằng cách nhấp vào một nút trên thang điểm chạy từ “rất dễ” đến “rất khó”. Các kết quả được gửi đến STEER, “so sánh dữ liệu với mô hình tâm lý của nó, sau đó đánh dấu những học sinh cần chú ý trong bảng điều khiển của giáo viên.”

Theo Tiến sĩ Jo Walker, đồng sáng lập STEER, “công cụ của chúng tôi làm nổi bật những đứa trẻ cụ thể đang gặp khó khăn trong giai đoạn phát triển cụ thể này và nó chỉ cho giáo viên biết đứa trẻ đó đang suy nghĩ như thế nào.” Anh ấy nói thêm rằng “kể từ khi giới thiệu nó, trường đại học đã thấy tỷ lệ tự làm hại bản thân giảm 20%.

Trong phân tích của mình, Wu đề cập đến một số nhà phát triển AI ở Mỹ đang giúp giải quyết vấn đề này. Securly sử dụng AI để tạo “lọc web, giám sát bắt nạt trên mạng và cảnh báo tự làm hại bản thân cho các trường học. Các trường học có thể cấp thiết bị Apple và Chromebook cho học sinh trong khi giám sát các hoạt động trên mạng của học sinh. Cha mẹ cũng có thể sử dụng các ứng dụng trên thiết bị gia đình của họ để theo dõi các hoạt động trực tuyến của con cái họ.” Bark sử dụng AI để giám sát tin nhắn văn bản, YouTube, email và 24 mạng xã hội khác nhau để cảnh báo cho phụ huynh về các mối lo ngại tiềm ẩn về an toàn. Công Ty Cổ Phần Công Nghệ SN tiến thêm một bước nữa, khi các giải pháp AI của họ sử dụng nhận dạng khuôn mặt để theo dõi các học sinh 'trong danh sách đen' trong trường học từ các video của camera giám sát trong chính trường học.

Tại Úc, công ty khởi nghiệp về an ninh mạng Saasyan Assure đã phát triển một phương pháp AI có thể giúp giáo viên theo dõi học sinh khi họ xem video “Thử thách Momo”. Greg Margossian, người đứng đầu Saasyan Assure nói rằng công ty của ông “chỉ cần đảm bảo rằng từ khóa 'Momo' có trong tất cả cơ sở dữ liệu của khách hàng mà họ không hề nghĩ đến.” Người ta nói thêm rằng công ty “cung cấp một phần mềm đăng ký có thể được thêm vào tất cả các thiết bị ở trường để tạo dấu vết lịch sử về việc sử dụng máy tính của mỗi học sinh và báo cho giáo viên nếu có bất kỳ rủi ro nào, từ bắt nạt đến tự làm hại bản thân hoặc bạo lực, xuất hiện.”