Các công ty khởi nghiệp tạo ra các công cụ AI để phát hiện quấy rối qua email

Kể từ khi phong trào Me Too nổi lên vào cuối năm 2017, ngày càng nhiều sự chú ý được dành cho các vụ quấy rối tình dục, bao gồm cả quấy rối tại nơi làm việc và quấy rối qua email hoặc trò chuyện tức thời.

Theo báo cáo của The Guardian, các nhà nghiên cứu và kỹ sư AI đã tạo ra các công cụ để phát hiện quấy rối qua các phương tiện giao tiếp văn bản, được gọi là MeTooBots. MeTooBots đang được các công ty trên toàn thế giới triển khai để đánh dấu các cuộc giao tiếp có thể gây hại và quấy rối. Một ví dụ về điều này là một bot được tạo bởi công ty Nex AI, hiện đang được sử dụng bởi khoảng 50 công ty khác nhau. Bot này sử dụng một thuật toán kiểm tra các tài liệu công ty, trò chuyện và email, và so sánh nó với dữ liệu đào tạo về các thông điệp quấy rối hoặc gây hại. Các thông điệp được coi là có thể quấy rối hoặc gây hại có thể được gửi đến người quản lý nhân sự để xem xét, mặc dù Nex AI chưa tiết lộ các điều khoản cụ thể mà bot tìm kiếm trên các phương tiện giao tiếp mà nó phân tích.

Các công ty khởi nghiệp khác cũng đã tạo ra các công cụ phát hiện quấy rối dựa trên AI. Công ty khởi nghiệp Spot sở hữu một chatbot có khả năng cho phép nhân viên báo cáo ẩn danh về các cáo buộc quấy rối tình dục. Bot sẽ hỏi các câu hỏi và đưa ra lời khuyên để thu thập thêm thông tin và tiến hành điều tra về vụ việc. Spot muốn giúp các nhóm nhân sự giải quyết các vấn đề quấy rối một cách nhạy cảm trong khi vẫn giữ bí mật.

Theo The Guardian, Giáo sư Brian Subirana, giáo sư AI tại MIT và Harvard, giải thích rằng các nỗ lực sử dụng AI để phát hiện quấy rối có những hạn chế. Quấy rối có thể rất tinh vi và khó phát hiện, thường chỉ thể hiện như một mẫu chỉ xuất hiện khi xem xét nhiều tuần dữ liệu. Bot cũng không thể, tại thời điểm này, vượt quá việc phát hiện các từ khóa cụ thể và phân tích các động lực giao tiếp hoặc văn hóa có thể xảy ra. Mặc dù có những phức tạp trong việc phát hiện quấy rối, Subirana vẫn tin rằng bot có thể đóng vai trò trong việc chống lại quấy rối trực tuyến. Subirana có thể thấy bot được sử dụng để đào tạo người dân phát hiện quấy rối khi họ nhìn thấy nó, tạo ra một cơ sở dữ liệu về các thông điệp có vấn đề. Subirana cũng cho biết có thể có hiệu ứng giả dược khiến mọi người ít có khả năng quấy rối đồng nghiệp của họ, ngay cả khi họ nghi ngờ các thông điệp của mình có thể được kiểm tra, ngay cả khi chúng không được kiểm tra.

Mặc dù Subirana tin rằng bot có tiềm năng sử dụng trong việc chống lại quấy rối, Subirana cũng lập luận rằng bí mật dữ liệu và quyền riêng tư là một vấn đề lớn. Subirana cho biết công nghệ như vậy có thể tạo ra một bầu không khí không tin tưởng và nghi ngờ nếu bị lạm dụng. Sam Smethers, giám đốc điều hành của tổ chức phi lợi nhuận về quyền của phụ nữ Fawcett Society, cũng bày tỏ lo ngại về việc bot có thể bị lạm dụng. Smethers cho biết:

“Chúng tôi muốn xem xét kỹ lưỡng cách công nghệ này được phát triển, ai là người đứng sau nó, và liệu phương pháp được áp dụng có được thông tin bởi một văn hóa nơi làm việc đang tìm cách ngăn chặn quấy rối và thúc đẩy sự bình đẳng, hay nó chỉ là một cách khác để kiểm soát nhân viên.”

Các phương pháp sử dụng bot để phát hiện quấy rối và vẫn bảo vệ sự ẩn danh và quyền riêng tư sẽ phải được làm việc giữa các nhà phát triển bot, công ty và các cơ quan quản lý. Một số phương pháp có thể sử dụng sức mạnh dự đoán của bot và AI trong khi vẫn bảo vệ quyền riêng tư bao gồm việc giữ các phương tiện giao tiếp ẩn danh. Ví dụ, các báo cáo có thể được tạo bởi bot chỉ bao gồm sự hiện diện của ngôn ngữ có thể gây hại và số lần ngôn ngữ có thể quấy rối xuất hiện. Nhân sự có thể nhận được ý tưởng nếu việc sử dụng ngôn ngữ độc hại giảm sau các buổi hội thảo nhận thức, hoặc ngược lại có thể xác định xem họ nên cảnh giác với việc tăng quấy rối.

Mặc dù có sự không đồng ý về việc sử dụng các thuật toán học máy và bot trong việc phát hiện quấy rối, cả hai bên dường như đồng ý rằng quyết định cuối cùng để can thiệp vào các vụ quấy rối nên được thực hiện bởi con người, và bot chỉ nên cảnh báo mọi người về các mẫu phù hợp chứ không nói chắc chắn rằng điều gì đó là một trường hợp của quấy rối.