สตาร์ทอัพสร้างเครื่องมือ AI เพื่อตรวจจับอีเมลที่ถูกกลั่นแกล้ง

นับตั้งแต่การเคลื่อนไหว Me Too ได้รับความสนใจในปลายปี 2017 มีการให้ความสนใจกับเหตุการณ์การล่วงละเมิดทางเพศ รวมถึงการล่วงละเมิดในที่ทำงานและการล่วงละเมิดผ่านอีเมลหรือการส่งข้อความทันที

ตามรายงานของ The Guardian นักวิจัยและวิศวกร AI ได้สร้างเครื่องมือเพื่อตรวจจับการล่วงละเมิดผ่านการสื่อสารข้อความ ซึ่งได้รับการตั้งชื่อว่า MeTooBots MeTooBots ได้รับการนำไปใช้โดยบริษัททั่วโลกเพื่อระบุการสื่อสารที่อาจเป็นอันตรายหรือล่วงละเมิด ตัวอย่างหนึ่งคือบอทที่สร้างโดยบริษัท Nex AI ซึ่งขณะนี้ถูกใช้โดยบริษัทประมาณ 50 แห่ง บอทนี้ใช้แอลกอริทึมที่วิเคราะห์เอกสารของบริษัท การแชทและอีเมล และเปรียบเทียบกับข้อมูลการฝึกอบรมของข้อความที่ล่วงละเมิดหรือบูลลี่ ข้อความที่ถือว่าเป็นอันตรายหรือล่วงละเมิดสามารถส่งไปยังผู้จัดการทรัพยากรบุคคลเพื่อตรวจสอบได้ แม้ว่า Nex AI จะไม่ได้เปิดเผยเงื่อนไขเฉพาะที่บอทค้นหาทั่วการสื่อสารที่วิเคราะห์

สตาร์ทอัพอื่น ๆ ยังสร้างเครื่องมือตรวจจับการล่วงละเมิดที่ใช้ AI สตาร์ทอัพ AI Spot เป็นเจ้าของชัตบอทที่สามารถช่วยให้พนักงานรายงานข้อกล่าวหาการล่วงละเมิดทางเพศได้อย่างลับๆ บอทจะถามคำถามและให้คำแนะนำเพื่อรวบรวมรายละเอียดเพิ่มเติมและดำเนินการสอบสวนเกี่ยวกับเหตุการณ์ Spot ต้องการช่วยให้ทีมทรัพยากรบุคคลจัดการกับปัญหาการล่วงละเมิดในลักษณะที่ละเอียดอ่อนในขณะเดียวกันก็รักษาความเป็นส่วนตัว

ตามรายงานของ The Guardian ศาสตราจารย์ Brian Subirana ผู้เชี่ยวชาญด้าน AI จาก MIT และ Harvard อธิบายว่าการพยายามใช้ AI เพื่อตรวจจับการล่วงละเมิดมีข้อจำกัด การล่วงละเมิดสามารถเป็นเรื่องที่ซับซ้อนและยากต่อการตรวจจับ ซึ่งบ่งชี้ให้เห็นว่าเป็นรูปแบบที่ปรากฏขึ้นเมื่อตรวจสอบข้อมูลเป็นเวลาหลายสัปดาห์ บอทยังไม่สามารถไปไกลกว่าการตรวจจับคำกระตุ้นและวิเคราะห์พลวัตระหว่างบุคคลหรือวัฒนธรรมที่อาจเกิดขึ้นได้ แม้ว่าการตรวจจับการล่วงละเมิดจะมีความซับซ้อน Subirana เชื่อว่าบอทสามารถมีบทบาทในการต่อต้านการล่วงละเมิดออนไลน์ได้ Subirana สามารถมองเห็นบอทที่ใช้ในการฝึกอบรมผู้คนเพื่อตรวจจับการล่วงละเมิดเมื่อพวกเขาเห็นมัน และสร้างฐานข้อมูลของข้อความที่อาจเป็นปัญหา Subirana ยังระบุด้วยว่าอาจมีผลกระทบทางจิตวิทยาโดยทำให้ผู้คนน้อยใจที่จะล่วงละเมิดเพื่อนร่วมงานของตน แม้ว่าพวกเขาจะไม่ถูกตรวจสอบก็ตาม

แม้ว่า Subirana จะเชื่อว่าบอทมีศักยภาพในการต่อต้านการล่วงละเมิด แต่ Subirana ก็ยังแย้งว่าการรักษาความลับของข้อมูลและความเป็นส่วนตัวเป็นข้อกังวลหลัก Subirana ระบุว่าเทคโนโลยีดังกล่าวอาจสร้างบรรยากาศของการไม่ไว้วางใจและความกังขาได้หากถูกใช้ในทางที่ผิด Sam Smethers ซีอีโอขององค์กรสิทธิสตรี Fawcett Society ก็แสดงความกังวลเกี่ยวกับวิธีการใช้บอท Smethers ระบุว่า:

“เราต้องการตรวจสอบอย่างรอบคอบว่าเทคโนโลยีนี้ถูกพัฒนาโดยใคร และวิธีการที่ใช้ในการพัฒนานั้นได้รับแจ้งจากวัฒนธรรมในที่ทำงานที่พยายามป้องกันการล่วงละเมิดและส่งเสริมความเท่าเทียม หรือว่ามันคือวิธีอื่นในการควบคุมพนักงาน”

วิธีการใช้บอทในการตรวจจับการล่วงละเมิดและปกป้องความเป็นส่วนตัวจะต้องได้รับการพิจารณาระหว่างผู้พัฒนา บอท บริษัท และหน่วยงานกำกับดูแล วิธีการหนึ่งที่เป็นไปได้ในการใช้พลังการทำนายของบอทและ AI ในขณะเดียวกันก็ปกป้องความเป็นส่วนตัวคือการรักษาความสื่อสารให้ไม่ระบุชื่อ ตัวอย่างเช่น บอทสามารถสร้างรายงานที่รวมถึงการมีอยู่ของภาษาที่อาจเป็นอันตรายและจำนวนครั้งที่ภาษาที่อาจเป็นอันตรายปรากฏ HR สามารถรับทราบได้ว่าการใช้ภาษาเป็นพิษลดลงหลังจากการอบรมหรือไม่ หรืออาจต้องคอยติดตามการล่วงละเมิดที่เพิ่มขึ้น

แม้ว่าจะมีความไม่เห็นด้วยเกี่ยวกับการใช้แอลกอริทึมการเรียนรู้ของเครื่องและบอทในการตรวจจับการล่วงละเมิด แต่ทั้งสองฝ่ายดườngจะเห็นด้วยว่าการตัดสินใจสุดท้ายในการแทรกแซงในการล่วงละเมิดควรเป็นของมนุษย์ และบอทควรแจ้งให้ผู้คนทราบถึงรูปแบบที่ตรงกันเท่านั้น ไม่ใช่การตัดสินว่ามันเป็นการล่วงละเมิดอย่างแน่นอน