Trí tuệ nhân tạo hiện đang được sử dụng để phát hiện bắt nạt trên mạng ở trẻ em trường học

Dữ liệu về bắt nạt, tự hại và bắt nạt trên mạng ở trẻ em trường học trên toàn thế giới đang trở nên báo động. Như được Jun Wu trình bày, dữ liệu từ Mỹ cho thấy rằng vào năm 2017, Theo Trung tâm Thống kê Giáo dục Quốc gia và Cục Tư pháp, khoảng 20% học sinh từ 12-18 tuổi đã trải qua bắt nạt. Theo Trung tâm Kiểm soát và Phòng ngừa Dịch bệnh, 19% học sinh từ lớp 9-12 báo cáo bị bắt nạt trên trường học trong 12 tháng trước khi khảo sát.

Điều gì đang trở nên báo động hơn, lan rộng ra ngoài khuôn viên trường học chính là sự gia tăng của bắt nạt trên mạng. Như Wu chỉ ra, “quấy rối trên các diễn đàn trực tuyến, qua email và trên các nền tảng truyền thông xã hội có thể gây tổn hại nhiều hơn cho sức khỏe tinh thần của nạn nhân so với bắt nạt trực tiếp. Bắt nạt trên mạng có thể là sự leo thang từ bắt nạt trên trường học. Đồng thời, bắt nạt có thể bắt đầu trên truyền thông xã hội, sau đó lan sang lớp học.”

Tại Úc, các nhà nghiên cứu đang báo cáo về hiện tượng được gọi là Momo, trong đó “các kẻ săn mồi trên mạng đã lấy trên một nhân vật gọi là Momo và liên hệ với trẻ em thông qua truyền thông xã hội yêu cầu chúng tự làm hại bản thân, đã gây ra những làn sóng lo ngại trong các trường học trên cả nước.”

Ngăn chặn việc bắt nạt và tự hại có thể gây ra bởi trầm cảm đã thúc đẩy một số nhà phát triển trí tuệ nhân tạo tìm kiếm giải pháp cho vấn đề này.

Theo SkyNews báo cáo, một số trường học ở Anh đã bắt đầu sử dụng một công cụ trí tuệ nhân tạo gọi là AS Tracking, được phát triển bởi một công ty gọi là STEER, đã được sử dụng tại 150 trường học ở Anh. Công cụ này liên quan đến việc học sinh thực hiện một bài kiểm tra tâm lý trực tuyến, và vào tháng 9 năm 2019, bài kiểm tra sẽ được thực hiện bởi 50.000 học sinh.

Như được giải thích, bài kiểm tra, yêu cầu học sinh tưởng tượng một không gian mà họ cảm thấy thoải mái, sau đó đặt ra một loạt câu hỏi trừu tượng, chẳng hạn như “thế nào dễ dàng cho ai đó vào không gian của bạn?” Học sinh có thể trả lời bằng cách nhấp vào một nút trên một thang điểm từ “rất dễ” đến “rất khó”. Kết quả được gửi đến STEER, “sau đó so sánh dữ liệu với mô hình tâm lý của mình, rồi đánh dấu học sinh cần chú ý trong bảng điều khiển giáo viên.”

Theo Tiến sĩ Jo Walker, đồng sáng lập STEER, “công cụ của chúng tôi突出 những đứa trẻ cụ thể đang gặp khó khăn trong giai đoạn phát triển này và nó chỉ ra cho giáo viên cách đứa trẻ đó đang suy nghĩ.” Ông thêm rằng “kể từ khi giới thiệu nó, trường học đã thấy giảm 20% tự làm hại.”

Trong phân tích của mình, Wu đề cập đến một số nhà phát triển trí tuệ nhân tạo ở Mỹ đang giúp giải quyết vấn đề này. Securly sử dụng trí tuệ nhân tạo để tạo “bộ lọc web, giám sát bắt nạt trên mạng và cảnh báo tự làm hại cho các trường học. Các trường học có thể cấp thiết bị Apple và Chromebook cho học sinh trong khi giám sát hoạt động mạng của học sinh. Phụ huynh cũng có thể sử dụng ứng dụng trên thiết bị của mình tại nhà để giám sát hoạt động trực tuyến của con cái họ.” Bark sử dụng trí tuệ nhân tạo để giám sát tin nhắn văn bản, YouTube, email và 24 mạng xã hội khác để cảnh báo phụ huynh về các vấn đề an toàn tiềm ẩn. SN Technologies Corp đi một bước xa hơn, khi giải pháp trí tuệ nhân tạo của họ sử dụng nhận dạng khuôn mặt để theo dõi học sinh ‘đen’ trong các trường học từ video của camera giám sát trong trường học.

Tại Úc, công ty khởi nghiệp an ninh mạng Saasyan Assure đã phát triển một phương pháp trí tuệ nhân tạo có thể giúp giáo viên theo dõi học sinh khi họ xem video “Thử thách Momo”. Greg Margossian, người đứng đầu Saasyan Assure cho biết công ty của ông “chỉ đảm bảo rằng từ khóa ‘Momo’ được trong tất cả các cơ sở dữ liệu của khách hàng, mà không cần họ phải nghĩ về nó.” Thêm vào đó, công ty “cung cấp một phần mềm đăng ký có thể được thêm vào tất cả các thiết bị tại trường học để tạo một dấu vết lịch sử của việc sử dụng máy tính của mỗi học sinh và cảnh báo giáo viên nếu có bất kỳ rủi ro nào, từ bắt nạt đến tự làm hại hoặc bạo lực, xuất hiện.”