Етичні розгляди під час розробки штучного інтелекту для розпізнавання емоцій

Штучний інтелект для регулювання емоцій є одним з останніх технологічних досягнень у сфері машинного навчання. Хоча він показує великий потенціал, етичні питання можуть вплинути на його прийняття та тривалість. Чи можуть розробники штучного інтелекту подолати ці проблеми?

Що таке розпізнавання емоцій штучного інтелекту?

Розпізнавання емоцій штучного інтелекту – це тип моделі машинного навчання. Він часто використовує технологію комп’ютерного зору, яка захоплює та аналізує вирази обличчя для розшифровки настроїв у зображеннях та відео. Однак він також може працювати з аудіо-фрагментами для визначення тону голосу або написаним текстом для оцінки настрою мови.

Цей алгоритм представляє цікавий прогрес у сфері штучного інтелекту, оскільки моделі раніше не могли зрозуміти людські почуття. Хоча великі мовні моделі, такі як ChatGPT, можуть імітувати настрої та персони досить переконливо, вони можуть лише логічно поєднувати слова – вони не можуть відчувати нічого та не демонструють емоційний інтелект.Хоча модель розпізнавання емоцій не здатна відчувати почуття, вона все ж може виявити та каталогізувати їх. Це досягнення є значним, оскільки воно сигналізує про те, що штучний інтелект скоро зможе真正но зрозуміти та продемонструвати щастя, смуток чи гнів. Такі технологічні стрибки вказують на прискорений розвиток.

Використання штучного інтелекту для розпізнавання емоцій

Бізнеси, освітні установи, консультанти та фахівці з психічного здоров’я – це деякі групи, які можуть використовувати штучний інтелект для розпізнавання емоцій.

Оцінка ризику на робочому місці

Команди з управління персоналом можуть використовувати алгоритми для проведення аналізу настрою електронної пошти або внутрішніх чатів між членами команди. Альтернативно, вони можуть інтегрувати свій алгоритм у систему відеоспостереження або комп’ютерного зору. Користувачі можуть відстежувати настрій для розрахунку метрик, таких як ризик виходу, рівень вигорання та задоволеність працівниками.

Допомога агентам служби підтримки клієнтів

Деталісти можуть використовувати внутрішніх агентів штучного інтелекту для підтримки клієнтів або віртуальних асистентів для вирішення високостресових ситуацій. Оскільки їхня модель може розпізнавати настрій, вона може запропонувати техніки деескалації або змінити тон, коли вона розуміє, що споживач розлютився. Такі заходи можуть покращити задоволеність клієнтів та їх утримання.

Допомога студентам у класі

Освітяни можуть використовувати цей штучний інтелект, щоб запобігти відставанню учнів, які навчаються дистанційно. Одна компанія вже використала свою технологію для вимірювання м’язових точок на обличчях учнів під час каталогізації їхньої швидкості та оцінок. Цей метод визначає їхній настрій, мотивацію, сильні та слабкі сторони. Засновник компанії стверджує, що вони набирають на 10% більше балів на тестах, коли використовують програмне забезпечення.

Проведення внутрішніх маркетингових досліджень

Бізнеси можуть проводити внутрішні маркетингові дослідження, використовуючи модель розпізнавання емоцій. Вона може допомогти їм зрозуміти, як їх цільова аудиторія реагує на їхній продукт, послугу чи маркетинговий матеріал, надаючи їм цінні дані-драйвені інсайти. В результаті вони можуть прискорити час виходу на ринок та збільшити свій дохід.

Проблема використання штучного інтелекту для виявлення емоцій

Дослідження показують, що точність сильно залежить від навчальної інформації. Одна дослідницька група – намагаючись розшифрувати почуття з зображень – підтвердила цю концепцію, коли їхня модель досягла 92,05% точності на японському наборі даних виразів обличчя жінок та 98,13% точності на розширеному наборі даних Кона-Канаде.

Хоча різниця між 92% та 98% може здатися незначною, вона має значення – ця мала розбіжність може мати суттєві наслідки. Для порівняння, рівень отруєння даних у розмірі 0,001% виявився ефективним для створення бекдорів моделі або навмисного спричинення неправильної класифікації. Навіть мала частка відсотка має значення.

Крім того, хоча дослідження здаються перспективними – показники точності вище 90% показують потенціал – дослідники проводять їх у контрольованих середовищах. У реальному світі розмиті зображення, фальшиві вирази обличчя, погані кути та тонкі почуття є набагато більш поширеними. Інакше кажучи, штучний інтелект може не спромогтися працювати послідовно.

Поточний стан розпізнавання емоцій штучного інтелекту

Алгоритмічний аналіз настрою – це процес використання алгоритму для визначення, чи тон тексту позитивний, нейтральний чи негативний. Ця технологія є, мабуть, основою для сучасних моделей виявлення емоцій, оскільки вона проклала шлях для алгоритмічної оцінки настрою. Подібні технології, такі як програмне забезпечення для розпізнавання обличчя, також сприяли прогресу.

Сучасні алгоритми можуть переважно виявляти лише прості настрої, такі як щастя, смуток, гнів, страх та здивування, з різними рівнями точності. Ці вирази обличчя є вродженими та універсальними – тобто вони природні та глобально зрозумілі – тому навчання штучного інтелекту для їх ідентифікації є відносно простим.

Крім того, базові вирази обличчя часто перебільшені. Люди хмуряться, коли розлютився, хмуряться, коли сумують, посміхаються, коли щасливі, та розширюють очі, коли шоковані. Ці прості, драматичні вирази легко відрізнити. Більш складні емоції складніше визначити, оскільки вони або тонкі, або поєднують базові вирази.

Оскільки ця підмножина штучного інтелекту переважно залишається у сфері дослідження та розробки, вона ще не просунулася до покриття складних почуттів, таких як туга, сором, горе, заздрість, полегшення чи плутаність. Хоча вона, мабуть, покриє більше згодом, немає гарантії, що вона зможе інтерпретувати всі вони.

Насправді алгоритми можуть ніколи не спромогтися конкурувати з людьми. Для порівняння, набір даних GPT-4 від OpenAI становить близько 1 петабайта, тоді як один кубічний міліметр людського мозку містить близько 1,4 петабайта даних. Нейробіологи не можуть повністю зрозуміти, як мозок сприймає емоції, незважаючи на десятиліття досліджень, тому створення високоточної моделі штучного інтелекту може бути неможливим.

Хоча використання цієї технології для розпізнавання емоцій має передумови, ця галузь все ж залишається на стадії розвитку. Є багато досліджень щодо цієї концепції, але мало реальних прикладів широкомасштабного впровадження. Деякі ознаки вказують на те, що затримка прийняття може бути наслідком проблем з нестабільною точністю та етичними питаннями.

Етичні розгляди для розробників штучного інтелекту

Згідно з одним опитуванням, 67% респондентів погоджуються, що штучний інтелект повинен бути більш регульований. Щоб заспокоїти людей, розробники повинні мінімізувати упередженість, забезпечити, щоб їхні моделі поводилися так, як очікувалося, та покращити результати. Ці рішення можливі, якщо вони пріоритизують етичні розгляди під час розробки.

1. Добровільна збирання та використання даних

Добровільність є все в епоху, коли регулювання штучного інтелекту зростає. Що відбувається, якщо працівники виявлять, що їхні вирази обличчя каталогізуються без їхнього відома? Чи повинні батьки підписувати згоду на аналіз настрою в освіті чи можуть учні вирішувати це самостійно?

Розробники повинні явно розкрити, яку інформацію модель буде зібрана, коли вона буде працювати, для чого буде використовуватися аналіз та хто зможе отримати доступ до цих даних. Крім того, вони повинні включити функції відмови, щоб особи могли налаштовувати дозволи.

2. Анонімізований аналіз настрою

Анонімізація даних є такою ж проблемою конфіденційності, як і питаннями безпеки. Розробники повинні анонімізувати інформацію про емоції, яку вони збирають, щоб захистити осіб, участь яких беруть. Як мінімум, вони повинні серйозно розглянути використання шифрування відпочинку.

3. Участь людини у процесі прийняття рішень

Єдина причина використовувати штучний інтелект для визначення емоційного стану людини полягає в тому, щоб інформувати процес прийняття рішень. Як такий, незалежно від того, чи використовується він у сфері психічного здоров’я чи у роздрібній торгівлі, він вплине на людей. Розробники повинні використовувати заходи безпеки з участю людини, щоб мінімізувати непередбачувану поведінку.

4. Зворотній зв’язок, орієнтований на людину, для виводу штучного інтелекту

Навіть якщо алгоритм має майже 100% точності, він усе ж таки буде генерувати хибні позитиви. Враховуючи, що не рідко моделі досягають 50% або 70% – і це без торкання питань упередженості чи галюцинацій – розробники повинні розглянути можливість реалізації системи зворотного зв’язку.

Люди повинні мати можливість переглянути, що штучний інтелект говорить про їхній емоційний стан, та оскаржити, якщо вони вважають це хибним. Хоча така система буде вимагати захисних заходів та заходів відповідальності, вона мінімізує негативні наслідки, пов’язані з неточним виводом.

Наслідки ігнорування етичних питань

Етичні розгляди повинні бути пріоритетом для інженерів штучного інтелекту, розробників машинного навчання та бізнес-власників, оскільки це впливає на них. Враховуючи, що все більш невизначена громадська думка та посилення регулювання діють, наслідки ігнорування етичних питань можуть бути суттєвими.