Институт AI Now предупреждает о неправильном использовании программного обеспечения для обнаружения эмоций и других этических проблем

Институт AI Now опубликовал отчет, в котором призывает законодателей и другие регулирующие органы установить жесткие ограничения на использование технологии обнаружения эмоций, запрещая ее в случаях, когда она может быть использована для принятия важных решений, таких как прием на работу или прием студентов. Кроме того, в отчете содержится ряд других предложений по различным темам в области ИИ.

Институт AI Now – это исследовательский институт, базирующийся в Нью-Йоркском университете, имеющий миссию изучать влияние ИИ на общество. AI Now ежегодно выпускает отчет, демонстрирующий их выводы о состоянии исследований ИИ и этических последствиях того, как ИИ в настоящее время используется. Как сообщает BBC, в этом году отчет затронул такие темы, как дискриминация алгоритмов, отсутствие разнообразия в исследованиях ИИ и проблемы труда.

Распознавание эмоций, технический термин для алгоритмов обнаружения эмоций, – это быстро растущая область исследований ИИ. Те, кто использует эту технологию для принятия решений, часто утверждают, что системы могут получить надежную информацию о эмоциональных состояниях людей, анализируя микровыражения, а также другие сигналы, такие как тон голоса и язык тела. Институт AI Now отмечает, что эта технология используется в широком спектре приложений, таких как определение, кого нанять, установление страховых тарифов и мониторинг внимания студентов в классе.

Профессор Кейт Кроуфорд, сооснователь AI Now, объяснил, что часто считается, что человеческие эмоции можно точно предсказать с помощью относительно простых моделей. Кроуфорд сказала, что некоторые фирмы основывают разработку своего программного обеспечения на работе Пола Экмана, психолога, который выдвинул гипотезу о том, что существует только шесть основных типов эмоций, которые регистрируются на лице. Однако Кроуфорд отмечает, что с момента введения теории Экмана исследования показали, что существует гораздо большая вариативность в лицевых выражениях и что выражения могут меняться в разных ситуациях и культурах очень легко.

“В то же время, когда эти технологии развертываются, большое количество исследований показывает, что нет… никаких существенных доказательств того, что люди имеют эту последовательную связь между эмоцией, которую вы испытываете, и тем, как выглядит ваше лицо”, сказала Кроуфорд BBC.

По этой причине институт AI Now утверждает, что большая часть распознавания эмоций основана на ненадежных теориях и сомнительной науке. Следовательно, системы обнаружения эмоций не должны развертываться, пока не будет проведено больше исследований, и что “правительства должны специально запретить использование распознавания эмоций в процессах принятия решений высокого уровня”. AI Now утверждал, что мы должны особенно прекратить использование этой технологии в “чувствительных социальных и политических контекстах”, контекстах, которые включают трудоустройство, образование и правоохранительную деятельность.

По крайней мере одна фирма, специализирующаяся на разработке ИИ и распознавании эмоций, Emteq, согласилась с тем, что должно быть регулирование, которое предотвращает неправильное использование технологии. Основатель Emteq, Чарльз Ндука, объяснил BBC, что хотя системы ИИ могут точно распознавать различные лицевые выражения, нет простой карты от выражения к эмоции. Ндука выразил обеспокоенность по поводу того, что регулирование может быть слишком далеко идущим и препятствовать исследованиям, отметив, что если “вещи будут запрещены, очень важно, чтобы люди не выбрасывали ребенка вместе с водой”.

Как сообщает NextWeb, AI Now также рекомендовал ряд других политик и норм, которые должны руководить отраслью ИИ в будущем.

AI Now подчеркнул необходимость того, чтобы отрасль ИИ сделала рабочие места более разнообразными и заявил, что работникам должна быть гарантирована возможность выражать свои опасения по поводу навязчивого и эксплуатационного ИИ. Работникам технологической отрасли также должна быть предоставлена возможность знать, используются ли их усилия для создания вредного или неэтичного продукта.

AI Now также предложил, что законодатели должны принять меры для обеспечения информированного согласия на использование любых данных, полученных из здравоохранения, связанных с ИИ. Кроме того, было рекомендовано, что защита данных должна быть воспринята более серьезно и что государства должны работать над разработкой законов о защите конфиденциальности биометрических данных, охватывающих как частные, так и государственные сущности.

Наконец, институт посоветовал отрасли ИИ начать думать и действовать более глобально, пытаясь решить более крупные политические, социальные и экологические последствия ИИ. Было рекомендовано, чтобы была предпринята существенная попытка учесть влияние ИИ на географическое перемещение и климат и что правительства должны сделать климатическое воздействие отрасли ИИ публично доступным.