Этические соображения при разработке ИИ для распознавания эмоций

Искусственный интеллект для регулирования эмоций является одним из последних технологических достижений в области машинного обучения. Хотя он показывает большой потенциал, этические проблемы могут повлиять на его принятие и долгосрочность. Может ли разработчики ИИ преодолеть их?

Что такое распознавание эмоций ИИ?

Распознавание эмоций ИИ – это тип модели машинного обучения. Он часто полагается на технологию компьютерного зрения, которая захватывает и анализирует выражения лица, чтобы расшифровать настроения в изображениях и видео. Однако он также может работать с аудиоклипами, чтобы определить тон голоса или письменным текстом, чтобы оценить настроение языка.

Этот алгоритм представляет собой fasciniruyushchiy прогресс в области ИИ, поскольку модели не смогли понять человеческие чувства. Хотя большие языковые модели, такие как ChatGPT, могут имитировать настроения и персоны убедительно, они могут только логически соединять слова – они не могут чувствовать ничего и не демонстрируют эмоциональный интеллект.Хотя модель распознавания эмоций не способна испытывать чувства, она все же может обнаруживать и каталогизировать их. Это развитие значимо, поскольку оно сигнализирует о том, что ИИ может вскоре по-настоящему понять и продемонстрировать счастье, печаль или гнев. Такие технологические скачки указывают на ускоренное развитие.

Применение распознавания эмоций ИИ

Бизнес, образование, консалтинг и специалисты по психическому здоровью – это некоторые из групп, которые могут использовать ИИ для распознавания эмоций.

Оценка рисков на рабочем месте

Команды по управлению персоналом могут использовать алгоритмы для анализа настроений электронной переписки или внутренних чатов между членами команды. Альтернативно, они могут интегрировать свой алгоритм в систему видеонаблюдения или компьютерного зрения. Пользователи могут отслеживать настроение, чтобы рассчитать метрики, такие как риск текучести кадров, уровень выгорания и удовлетворенность сотрудников.

Помощь агентам службы поддержки клиентов

Розничные торговцы могут использовать внутренних агентов ИИ для обслуживания клиентов для конечных пользователей или виртуальных помощников для решения высоко-стрессовых ситуаций. Поскольку их модель может распознавать настроение, она может предложить методы деэскалации или изменить тон, когда она понимает, что потребитель злится. Противодействия, такие как эти, могут улучшить удовлетворенность клиентов и удержание.

Помощь студентам в классе

Образователи могут использовать этот ИИ, чтобы не допустить, чтобы студенты-удаленщики отстали. Одна компания уже использовала свой инструмент для измерения мышечных точек на лицах студентов, каталогизируя их скорость и оценки. Этот метод определяет их настроение, мотивацию, сильные и слабые стороны. Основатель компании утверждает, что они набирают на 10% больше баллов при использовании программного обеспечения.

Проведение внутренних маркетинговых исследований

Бизнес может проводить внутренние маркетинговые исследования, используя модель распознавания эмоций. Она может помочь им понять, как их целевая аудитория реагирует на их продукт, услугу или маркетинговый материал, предоставляя им ценную данные, основанные на выводах. В результате они могут ускорить время выхода на рынок и увеличить доход.

Проблема с использованием ИИ для обнаружения эмоций

Исследования показывают, что точность сильно зависит от обучающей информации. Одна исследовательская группа – пытаясь расшифровать чувства из изображений – анекдотически доказала эту концепцию, когда их модель достигла точности 92,05% на японском наборе данных выражений лица и 98,13% на расширенном наборе данных Кохна-Канаде.

Хотя разница между 92% и 98% может показаться незначительной, она имеет значение – эта небольшая расхождение может иметь существенные последствия. Для справки, уровень заражения данными в размере 0,001% оказался эффективным для создания задних дверей модели или намеренного вызова неправильной классификации. Даже небольшая доля процента значима.

Более того, хотя исследования кажутся перспективными – показатели точности выше 90% показывают потенциал – исследователи проводят их в контролируемых условиях. В реальном мире размытые изображения, поддельные выражения лица, плохие углы и тонкие чувства гораздо более распространены. Другими словами, ИИ может не работать последовательно.

Текущее состояние распознавания эмоций ИИ

Алгоритмический анализ настроений – это процесс использования алгоритма для определения тона текста как положительного, нейтрального или отрицательного. Эта технология, по сути, является основой для современных моделей обнаружения эмоций, поскольку она проложила путь для алгоритмических оценок настроений. Аналогичные технологии, такие как программное обеспечение для распознавания лица, также внесли свой вклад в прогресс.

Сегодня алгоритмы в основном могут обнаруживать только простые настроения, такие как счастье, печаль, гнев, страх и удивление, с разной степенью точности. Эти выражения лица являются врожденными и универсальными – то есть они естественны и понятны во всем мире – поэтому обучение ИИ для их определения относительно простое.

Более того, основные выражения лица часто преувеличиваются. Люди хмурятся, когда злы, хмурятся, когда печальны, улыбаются, когда счастливы, и широко открывают глаза, когда шокированы. Эти простые, драматические взгляды легко различимы. Более сложные эмоции более сложны для определения, поскольку они либо тонкие, либо сочетают основные выражения лица.

Поскольку этот подмножество ИИ в основном остается в исследованиях и разработке, оно еще не продвинулось до покрытия сложных чувств, таких как тоска, стыд, горе, ревность, облегчение или замешательство. Хотя, вероятно, оно в конечном итоге покроет больше, нет гарантии, что оно сможет интерпретировать все.

В реальности алгоритмы могут никогда не быть в состоянии конкурировать с людьми. Для справки, хотя набор данных GPT-4 от OpenAI составляет примерно 1 петабайт, один кубический миллиметр человеческого мозга содержит около 1,4 петабайта данных. Нейробиологи не могут полностью понять, как мозг воспринимает эмоции, несмотря на десятилетия исследований, поэтому создание высокоточного ИИ может быть невозможно.

Хотя использование этой технологии для распознавания эмоций имеет прецедент, эта область все еще технически находится в младенчестве. Существует множество исследований по этой концепции, но мало реальных примеров крупномасштабного развертывания. Некоторые признаки указывают на то, что отставание в принятии может быть вызвано проблемами с несоответствующей точностью и этическими проблемами.

Этические соображения для разработчиков ИИ

Согласно одному опросу, 67% респондентов согласны с тем, что ИИ должен быть более регулируемым. Чтобы успокоить людей, разработчики должны минимизировать предвзятость, обеспечить, чтобы их модели работали как ожидается, и улучшить результаты. Эти решения возможны, если они будут уделять приоритетное внимание этическим соображениям во время разработки.

1. Согласованное сбор и использование данных

Согласие является всем в эпоху, когда регулирование ИИ увеличивается. Что происходит, если сотрудники обнаружат, что их выражения лица каталогизируются без их ведома? Должны ли родители давать согласие на анализ настроений в образовании или могут студенты решать сами за себя?

Разработчики должны явно раскрыть, какую информацию модель будет собирать, когда она будет работать, для чего будет использоваться анализ и кто сможет получить доступ к этим данным. Кроме того, они должны включить функции отказа, чтобы люди могли настраивать разрешения.

2. Анонимизированный вывод анализа настроений

Анонимизация данных является столь же большей проблемой безопасности, сколько и проблемой конфиденциальности. Разработчики должны анонимизировать информацию об эмоциях, которую они собирают, чтобы защитить вовлеченных людей. По крайней мере, они должны серьезно рассмотреть возможность использования шифрования при хранении.

3. Принятие решений с участием человека

Единственная причина использования ИИ для определения эмоционального состояния человека заключается в том, чтобы проинформировать принятие решений. Будет ли он использоваться в психиатрической или розничной сфере, он повлияет на людей. Разработчики должны использовать меры безопасности с участием человека, чтобы минимизировать непредвиденное поведение.

4. Обратная связь, ориентированная на человека, для вывода ИИ

Даже если алгоритм имеет почти 100% точности, он все равно будет производить ложные положительные результаты. Учитывая, что не редко модели достигают 50% или 70% – и это без учета проблем с предвзятостью или галлюцинациями – разработчики должны рассмотреть возможность реализации системы обратной связи.

Люди должны иметь возможность просмотреть, что ИИ говорит об их эмоциональном состоянии, и обжаловать, если они считают, что это ложно. Хотя такая система потребует ограничений и мер ответственности, она минимизирует негативные последствия, связанные с неточным выводом.

Последствия игнорирования этики

Этические соображения должны быть приоритетом для инженеров ИИ, разработчиков машинного обучения и владельцев бизнеса, поскольку они влияют на них. Учитывая все более неуверенное общественное мнение и ужесточающиеся правила, последствия игнорирования этики могут быть значительными.