Trí tuệ nhân tạo đang được sử dụng để phát hiện bắt nạt trên mạng ở trẻ em trường học

Dữ liệu về bắt nạt, tự hại và bắt nạt trên mạng ở trẻ em trường học trên toàn thế giới đang trở nên báo động. Như được trình bày bởi Jun Wu, dữ liệu từ Mỹ cho thấy rằng vào năm 2017, theo Trung tâm Thống kê Giáo dục Quốc gia và Cục Tư pháp, khoảng 20% học sinh từ 12-18 tuổi đã trải qua bắt nạt. Theo Trung tâm Kiểm soát và Phòng ngừa Dịch bệnh, 19% học sinh từ lớp 9-12 báo cáo đã bị bắt nạt trên trường học trong 12 tháng trước khi khảo sát.

Điều gì đang trở nên báo động hơn, lan rộng ngoài khuôn viên trường học chính là sự gia tăng của bắt nạt trên mạng. Như Wu chỉ ra, “quấy rối trên các diễn đàn trực tuyến, qua email và trên các nền tảng truyền thông xã hội có thể gây tổn hại nhiều hơn cho sức khỏe tâm lý của nạn nhân so với bắt nạt trực tiếp. Bắt nạt trên mạng có thể là một sự leo thang từ bắt nạt trên trường học. Đồng thời, bắt nạt có thể bắt đầu trên mạng xã hội, sau đó lan sang lớp học.”

Tại Úc, các nhà nghiên cứu đang báo cáo về hiện tượng được gọi là Momo, trong đó “các kẻ lừa đảo trên mạng đã giả mạo một nhân vật tên là Momo và liên hệ với trẻ em qua mạng xã hội, yêu cầu chúng tự làm hại bản thân, đã gây ra sự lo lắng trong các trường học trên cả nước.”

Ngăn chặn việc bắt nạt và tự hại có thể gây ra bởi trầm cảm đã thúc đẩy một số nhà phát triển trí tuệ nhân tạo tìm kiếm giải pháp cho vấn đề này.

Theo SkyNews, một số trường học ở Anh đã bắt đầu sử dụng một công cụ trí tuệ nhân tạo gọi là AS Tracking, được phát triển bởi công ty STEER, đã được sử dụng tại 150 trường học ở Anh. Công cụ này yêu cầu học sinh thực hiện một bài kiểm tra tâm lý trực tuyến, và vào tháng 9 năm 2019, bài kiểm tra này sẽ được thực hiện bởi 50.000 học sinh.

Như được giải thích, bài kiểm tra này yêu cầu học sinh tưởng tượng một không gian mà họ cảm thấy thoải mái, sau đó đặt ra một loạt câu hỏi trừu tượng, chẳng hạn như “như thế nào để ai đó có thể vào không gian của bạn?” Học sinh có thể trả lời bằng cách nhấp vào một nút trên một thang đo chạy từ “rất dễ” đến “rất khó”. Kết quả được gửi đến STEER, “sau đó so sánh dữ liệu với mô hình tâm lý của mình, rồi đánh dấu những học sinh cần chú ý trong bảng điều khiển của giáo viên.”

Theo Tiến sĩ Jo Walker, đồng sáng lập STEER, “công cụ của chúng tôi nhấn mạnh những đứa trẻ cụ thể đang gặp khó khăn trong giai đoạn phát triển này và chỉ ra cho giáo viên cách đứa trẻ đó đang nghĩ.” Ông thêm rằng “kể từ khi giới thiệu nó, trường học đã thấy giảm 20% tự hại.”

Trong phân tích của mình, Wu đề cập đến một số nhà phát triển trí tuệ nhân tạo ở Mỹ đang giúp giải quyết vấn đề này. Securly sử dụng trí tuệ nhân tạo để tạo “bộ lọc web, giám sát bắt nạt trên mạng và cảnh báo tự hại cho các trường học. Các trường học có thể cấp phát thiết bị Apple (AAPL ) và Chromebook cho học sinh trong khi giám sát hoạt động trên mạng của học sinh. Phụ huynh cũng có thể sử dụng ứng dụng trên thiết bị của mình để giám sát hoạt động trên mạng của con cái.” Bark sử dụng trí tuệ nhân tạo để giám sát tin nhắn văn bản, YouTube, email và 24 mạng xã hội khác để cảnh báo phụ huynh về các vấn đề an toàn tiềm ẩn. SN Technologies Corp đi xa hơn, vì giải pháp trí tuệ nhân tạo của họ sử dụng nhận dạng khuôn mặt để theo dõi học sinh “đen” trong các trường học từ video của camera giám sát trong trường học.

Tại Úc, công ty khởi nghiệp về an ninh mạng Saasyan Assure đã phát triển một phương pháp trí tuệ nhân tạo có thể giúp giáo viên theo dõi học sinh khi họ xem video “Thử thách Momo”. Greg Margossian, người đứng đầu Saasyan Assure, cho biết công ty của ông “chỉ đảm bảo rằng từ khóa ‘Momo’ được đặt trong tất cả cơ sở dữ liệu của khách hàng, mà không cần họ phải nghĩ về nó.” Nó được thêm rằng công ty “cung cấp một phần mềm đăng ký có thể được thêm vào tất cả thiết bị tại trường học để tạo một dấu vết lịch sử của việc sử dụng máy tính của mỗi học sinh và cảnh báo giáo viên nếu có bất kỳ rủi ro nào, từ bắt nạt đến tự hại hoặc bạo lực, xuất hiện.”