ปัญญาประดิษฐ์ถูกนำมาใช้ในการตรวจจับข่มขู่ทางไซเบอร์ในเด็กนักเรียน

ข้อมูลเกี่ยวกับการข่มขู่ การทำร้ายตนเอง และการข่มขู่ทางไซเบอร์ในเด็กนักเรียนทั่วโลกกำลัง trở nênน่ากลัวมากขึ้น ตามที่จุน วู (Jun Wu) เสนอข้อมูลจากสหรัฐอเมริกาในปี 2017 มีนักเรียนประมาณ 20% ในกลุ่มอายุ 12-18 ปี ถูกข่มขู่ ตามรายงานของ National Center for Education Statistics และ Bureau of Justice นักเรียน 20% ในกลุ่มอายุ 12-18 ปี ถูกข่มขู่ ตามรายงานของ Center for Disease Control and Prevention นักเรียน 19% ในชั้นเรียน 9-12 รายงานว่าถูกข่มขู่ในโรงเรียนในช่วง 12 เดือนที่ผ่านมา

สิ่งที่น่ากลัวมากขึ้นคือการข่มขู่ทางไซเบอร์ที่กำลังแพร่กระจายออกไปนอกโรงเรียน จุน วู (Jun Wu) ระบุว่า “การข่มขู่ทางออนไลน์ อีเมล และแพลตฟอร์มโซเชียลมีเดียสามารถทำร้ายสุขภาพจิตของเหยื่อมากกว่าการข่มขู่แบบหน้าต่อหน้า การข่มขู่ทางไซเบอร์สามารถเป็นการขยายจากข่มขู่ในโรงเรียน ในขณะเดียวกันการข่มขู่สามารถเริ่มต้นจากโซเชียลมีเดียแล้วแพร่กระจายเข้าสู่ห้องเรียน”

ในออสเตรเลีย นักวิจัยรายงานเกี่ยวกับเหตุการณ์ที่เรียกว่า “Momo” ซึ่งเป็นสถานการณ์ที่ “ผู้ข่มขู่ทางไซเบอร์ใช้บุคลิกของ ‘Momo’ และติดต่อนักเรียนผ่านโซเชียลมีเดียเพื่อขอให้พวกเขาทำร้ายตนเอง” ซึ่งทำให้เกิดความกังวลในโรงเรียนทั่วประเทศ

การป้องกันการข่มขู่และการทำร้ายตนเองที่เกิดจากความซึมเศร้าทำให้นักพัฒนา AI หลายคนพยายามหาวิธีแก้ปัญหานี้

ตามรายงานของ SkyNews โรงเรียนบางแห่งในอังกฤษเริ่มใช้เครื่องมือ AI ที่เรียกว่า AS Tracking ซึ่งพัฒนาโดยบริษัท STEER โดยมีนักเรียน 150 คนในโรงเรียนที่ใช้เครื่องมือนี้ ในเดือนกันยายน 2019 จะมีนักเรียน 50,000 คนเข้าร่วมการทดสอบออนไลน์

ตามที่อธิบายไว้ การทดสอบจะขอให้นักเรียนจินตนาการถึงพื้นที่ที่พวกเขารู้สึกสบายใจ จากนั้นจะถามคำถามที่เป็นนามธรรม เช่น “มันง่ายแค่ไหนที่ใครบางคนจะเข้ามาในพื้นที่ของคุณ?” นักเรียนสามารถตอบได้โดยการคลิกปุ่มที่มีระดับจาก “ง่ายมาก” ถึง “ยากมาก” ผลลัพธ์จะถูกส่งไปยัง STEER ซึ่งจะเทียบเคียงกับแบบจำลองจิตวิทยาแล้วแจ้งเตือนครูเกี่ยวกับนักเรียนที่ต้องการความสนใจ

ตามที่ดร. โจ วอล์คเกอร์ (Jo Walker) ผู้ร่วมก่อตั้ง STEER ระบุว่า “เครื่องมือของเราช่วยให้ครูสามารถระบุนักเรียนที่ต้องการความช่วยเหลือและเข้าใจว่าพวกเขา đangคิดอะไร” เขาเพิ่มเติมว่า “ตั้งแต่เริ่มใช้เครื่องมือนี้ โรงเรียนได้เห็นการลดลงของการทำร้ายตนเอง 20%”

ในบทวิเคราะห์ของจุน วู (Jun Wu) ระบุว่ามีนักพัฒนา AI หลายคนในอเมริกาที่ช่วยแก้ปัญหานี้ Securly ใช้ AI เพื่อสร้าง “การกรองเว็บ การติดตามการข่มขู่ทางไซเบอร์ และการเตือนการทำร้ายตนเองสำหรับโรงเรียน” Bark ใช้ AI เพื่อติดตามข้อความ SMS YouTube อีเมล และ 24 โซเชียลมีเดียต่างๆ เพื่อเตือนผู้ปกครองเกี่ยวกับปัญหาที่อาจเกิดขึ้น SN Technologies Corp ใช้ AI ที่ใช้การรู้จำใบหน้าเพื่อติดตามนักเรียนที่ถูก “blacklist” ในโรงเรียนจากวิดีโอของกล้องวงจรปิด

ในออสเตรเลีย บริษัท Saasyan Assure พัฒนา AI ที่สามารถช่วยครูในการติดตามนักเรียนเมื่อพวกเขาเข้าชมวิดีโอ “Momo Challenge” Greg Margossian หัวหน้า Saasyan Assure ระบุว่า “เราทำให้แน่ใจว่า ‘Momo’ จะอยู่ในฐานข้อมูลของลูกค้าโดยไม่ต้องคิดมาก” และบริษัท “มี软件ที่สามารถเพิ่มลงในอุปกรณ์ทุกเครื่องในโรงเรียนเพื่อสร้างรอยเท้าของการใช้คอมพิวเตอร์ของนักเรียนและเตือนครูถึงความเสี่ยงต่างๆ ที่อาจเกิดขึ้น”