Стартапи створюють інструменти штучного інтелекту для виявлення електронної харасментії

Від часу, коли рух Me Too набув популярності у кінці 2017 року, все більше уваги приділяється випадкам сексуальної харасментії, включаючи харасментію на робочому місці та через електронну пошту чи миттєві повідомлення.

За повідомленням The Guardian, дослідники та інженери штучного інтелекту створюють інструменти для виявлення харасментії через текстові повідомлення, які називаються MeTooBots. MeTooBots впроваджуються компаніями по всьому світу для позначення потенційно шкідливих та харасментійних повідомлень. Одним із прикладів є бот, створений компанією Nex AI, який зараз використовується близько 50 різними компаніями. Бот використовує алгоритм, який аналізує документи компанії, чати та електронні листи та порівнює їх з навчальними даними про булінг чи харасментійні повідомлення. Повідомлення, які вважаються потенційно харасментійними або шкідливими, можуть бути надіслані менеджеру з персоналу для розгляду, хоча Nex AI не розкрила конкретні терміни, які бот шукає в повідомленнях, які він аналізує.

Інші стартапи також створили інструменти для виявлення харасментії на основі штучного інтелекту. Стартап Spot володіє чат-ботом, який дозволяє працівникам анонімно повідомляти про випадки сексуальної харасментії. Бот задає питання та надає поради для збору більшої кількості інформації та проведення розслідування інциденту. Spot хоче допомогти командам з персоналу розглядати питання харасментії у делікатному порядку, зберігаючи при цьому анонімність.

За повідомленням The Guardian, професор Браян Субірана, професор штучного інтелекту в MIT та Гарварді, пояснив, що спроби використовувати штучний інтелект для виявлення харасментії мають свої обмеження. Харасментія може бути дуже тонкою та важкою для виявлення, часто проявляючись лише як модель, яка відкривається при аналізі тижнів даних. Боти також не можуть, на даний момент, вийти за межі виявлення певних ключових слів та проаналізувати ширші міжособистісні чи культурні динаміки, які можуть бути у грі. Незважаючи на складності виявлення харасментії, Субірана вважає, що боти можуть відігравати роль у боротьбі з онлайн-харасментією. Субірана бачить можливість використання ботів для навчання людей виявляти харасментію, коли вони її бачать, створюючи базу даних потенційно проблемних повідомлень. Субірана також зазначив, що може бути ефект плацебо, який робить людей менш схильними до харасментії щодо колег, навіть якщо вони підозрюють, що їхні повідомлення можуть бути розглянуті, навіть якщо вони не будуть.

Хоча Субірана вважає, що боти мають свій потенціал у боротьбі з харасментією, Субірана також стверджує, що конфіденційність даних та приватність є великою проблемою. Субірана заявляє, що така технологія потенційно може створити атмосферу недовіри та підозріливості, якщо її неправильно використовувати. Сем Смезерс, виконавчий директор організації з прав жінок Fawcett Society, також висловила занепокоєння щодо того, як боти можуть бути неправильно використані. Смезерс заявила:

«Ми хотіли б ретельно розглянути, як розробляється технологія, хто стоїть за нею, та чи підхід, який приймається, ґрунтується на культурі робочого місця, яка прагне запобігти харасментії та просувати рівність, чи це просто ще один спосіб контролювати працівників».

Методи використання ботів для виявлення харасментії та захисту анонімності та приватності повинні бути розроблені розробниками ботів, компаніями та регуляторами. Одним із можливих методів використання передбачувальної сили ботів та штучного інтелекту при збереженні приватності є підтримання анонімності повідомлень. Наприклад, бот може генерувати звіти, які містять лише присутність потенційно шкідливої мови та кількість випадків, коли така мова зустрічається. Відділ кадрів тоді може отримати уявлення про те, чи зменшується використання токсичної мови після семінарів підвищення обізнаності, чи навпаки потрібно бути насторожі щодо збільшення випадків харасментії.

Незважаючи на розбіжності щодо використання алгоритмів штучного інтелекту та ботів для виявлення харасментії, обидві сторони, здається, погоджуються, що остаточне рішення про втручання у випадки харасментії повинно прийматися людиною, а боти повинні лише повідомляти про виявлені моделі, а не стверджувати напевно, що щось було випадком харасментії.