Інститут AI Now попереджає про неправильне використання програмного забезпечення для виявлення емоцій та інші етичні питання

Інститут AI Now опублікував звіт, в якому закликає законодавців та інші регулюючі органи встановити жорсткі обмеження на використання технологій виявлення емоцій, заборонивши її в випадках, коли вона може бути використана для прийняття важливих рішень, таких як прийом на роботу або прийом до школи. Крім того, звіт містить ряд інших пропозицій щодо різних тем у сфері штучного інтелекту.

Інститут AI Now – це дослідницький інститут, розташований у Нью-Йоркському університеті, який має на меті вивчати вплив штучного інтелекту на суспільство. AI Now видає щорічний звіт, у якому демонструються їхні висновки щодо стану досліджень штучного інтелекту та етичних наслідків його використання. Як повідомляє BBC, цей рік звіт торкнувся таких тем, як алгоритмічна дискримінація, відсутність різноманітності у дослідженнях штучного інтелекту та проблеми праці.

Визнання афекту, технічна назва для алгоритмів виявлення емоцій, – це швидко зростаюча область досліджень штучного інтелекту. Ті, хто використовує цю технологію для прийняття рішень, часто стверджують, що системи можуть надати надійну інформацію про емоційні стани людей, аналізуючи мікровирази, а також інші ознаки, такі як тон голосу та мову тіла. Інститут AI Now зазначає, що ця технологія використовується в широкому спектрі застосунків, таких як визначення, кого прийняти на роботу, встановлення страхових тарифів та моніторинг того, чи студенти уважно слухають на уроці.

Професор Кейт Кроуфорд, співзасновник AI Now, пояснив, що часто вважається, що людські емоції можна точно передбачити за допомогою відносно простих моделей. Кроуфорд зазначила, що деякі компанії базують розробку свого програмного забезпечення на роботі психолога Пола Екмана, який висунув гіпотезу про те, що існує тільки шість основних типів емоцій, які реєструються на обличчі. Однак Кроуфорд зазначає, що після появи теорії Екмана дослідження показали, що існує значно більша варіативність у виразах обличчя та що вирази можуть змінюватися залежно від ситуації та культури.

“В той же час, коли ці технології розгортаються, велика кількість досліджень показує, що немає… жодних суттєвих доказів того, що люди мають цю постійну залежність між емоцією, яку ви відчуваєте, та тим, як виглядає ваше обличчя”, – зазначила Кроуфорд у розмові з BBC.

Через це інститут AI Now стверджує, що більша частина визнання афекту базується на ненадійних теоріях та сумнівній науці. Тому системи виявлення емоцій не повинні бути розгорнуті, доки не буде проведено більше досліджень, та що “уряди повинні конкретно заборонити використання визнання афекту у процесах прийняття важливих рішень”. AI Now стверджує, що особливо потрібно припинити використання цієї технології у “чутливих соціальних та політичних контекстах”, таких як зайнятість, освіта та правоохоронна діяльність.

Але одна компанія з розвитку штучного інтелекту, що спеціалізується на визнанні афекту, Emteq, погодилася з тим, що потрібно регулювання, яке запобігатиме неправильному використанню цієї технології. Засновник Emteq, Чарльз Ндука, пояснив BBC, що хоча системи штучного інтелекту можуть точно розпізнавати різні вирази обличчя, немає простої карти з виразу на емоцію. Ндука висловив занепокоєння щодо того, що регулювання може бути надто суворим та гальмувати дослідження, зазначивши, що якщо “річі будуть заборонені, дуже важливо, щоб люди не викинули дитину з водою”.

Як повідомляє The Next Web, AI Now також порекомендував ряд інших політик та норм, які повинні керувати індустрією штучного інтелекту в майбутньому.

Інститут AI Now підкреслив необхідність того, щоб індустрія штучного інтелекту зробила робочі місця більш різноманітними та гарантувала працівникам право висловлювати свої занепокоєння щодо інвазивної та експлуататорської штучної інтелекту. Працівники-технологи також повинні мати право знати, чи їхні зусилля використовуються для створення шкідливої чи неетичної роботи.

Інститут AI Now також порекомендував законодавцям вжити заходів для забезпечення інформованої згоди на використання будь-яких даних, отриманих з медичної штучної інтелекту. Крім того, було порекомендовано, щоб дані про приватність були прийняті більш серйозно та щоб держави працювали над розробкою законів про приватність біометричних даних, які охоплюють як приватні, так і публічні організації.

Нарешті, інститут порекомендував індустрії штучного інтелекту почати думати та діяти більш глобально, намагаючись вирішити більші політичні, соціальні та екологічні наслідки штучного інтелекту. Було порекомендовано, щоб було зроблено суттєву спробу врахувати вплив штучного інтелекту щодо географічного переміщення та клімату, та що уряди повинні зробити вплив штучного інтелекту на клімат індустрії штучного інтелекту публічно доступним.