Розкриття упередженості в штучному інтелекті: виклики та рішення

Нещодавнє вдосконалення генеративного штучного інтелекту супроводжується зростанням застосування в різних галузях, включаючи фінанси, охорону здоров’я, транспорт. Розробка цієї технології також приведе до появи інших нових технологій, таких як технології кібербезпеки, досягнення в галузі квантових обчислень та проривні методи бездротової зв’язку. Однак цей вибух нових технологій супроводжується власними викликами.

Наприклад, впровадження штучного інтелекту може призвести до більш складних кібератак, проблем з пам’яттю та зберіганням даних через збільшення обчислювальної потужності та етичних проблем, пов’язаних з упередженістю моделей штучного інтелекту. Добра новина полягає в тому, що дослідники з NTT Research запропонували спосіб подолання упередженості в глибоких нейронних мережах (DNN), типу штучного інтелекту.

Цей дослідницький прорив значимий, оскільки неупереджені моделі штучного інтелекту зможуть сприяти прийняттю рішень у сфері працевлаштування, системи правосуддя та охорони здоров’я, не залежачи від характеристик, таких як раса чи стать. У майбутньому дискримінацію можна буде ліквідувати за допомогою цих автоматизованих систем, покращуючи ініціативи щодо забезпечення рівних можливостей у різних галузях. Крім того, моделі штучного інтелекту без упередженості покращать продуктивність та скоротять час виконання завдань. Однак деякі компанії були змушені зупинити свої програми, генеровані штучним інтелектом, через упереджені рішення технології.

Наприклад, Amazon (AMZN ) припинила використання алгоритму відбору персоналу, коли виявила, що алгоритм надавав перевагу кандидатам, які частіше використовували слова типу “виконаний” або “затриманий”, які були більш характерними для резюме чоловіків. Інший приклад упередженості походить від Джой Буоламвіні, однієї з найвпливовіших людей у сфері штучного інтелекту 2023 року за версією TIME, яка у співпраці з Тімнітом Гебру в MIT виявила, що технології аналізу обличчя демонстрували вищу похибку при оцінці представників меншин, особливо жінок, що потенційно могло бути пов’язано з недостатньо репрезентативними навчальними даними.

Нещодавно DNN стали широко поширені в науці, техніці та бізнесі, а також у популярних додатках, але іноді вони залежать від сторонніх атрибутів, які можуть передавати упередженість. За даними дослідження MIT за останні роки, вчені розробили глибокі нейронні мережі, здатні аналізувати величезні об’єми вхідних даних, включаючи звуки та зображення. Ці мережі можуть виявляти спільні характеристики, що дозволяє їм класифікувати цільові слова або об’єкти. На даний момент ці моделі знаходяться на передовому краї галузі як основні моделі для відтворення біологічних сенсорних систем.

Старший науковий співробітник NTT Research та асоціат Центру мозкових досліджень Гарвардського університету Хіденорі Танака та три інших вчених запропонували подолання обмежень наївного доопрацювання, стандартного методу зменшення похибок або “втрат” DNN, шляхом розробки нового алгоритму, який зменшує залежність моделі від атрибутів, схильних до упередженості.

Вони вивчили ландшафт втрат нейронної мережі через призму з’єднаності мод, спостереження, що мінімалізатори нейронних мереж, отримані шляхом навчання на наборі даних, з’єднані простими шляхами низьких втрат. Конкретно, вони поставили наступне питання: чи мінімалізатори, які залежать від різних механізмів для прийняття рішень, з’єднані простими шляхами низьких втрат?

Вони виявили, що наївне доопрацювання не може суттєво змінити механізм прийняття рішень моделі, оскільки для цього потрібно переміститися в іншу долину на ландшафті втрат. Замість цього потрібно примусити модель перейти через бар’єри, які розділяють “джерела” або “долини” низьких втрат. Автори називають цей коригувальний алгоритм З’єднаність-Основане Доопрацювання (CBFT).

До цього відкриття DNN, яка класифікує зображення, наприклад, рибу (ілюстрація, використана в цьому дослідженні), використовувала як форму об’єкта, так і фон як вхідні параметри для прогнозування. Її шляхи мінімалізації втрат працювали б у механічно відмінних режимах: один залежав від легітимного атрибуту форми, а інший – від стороннього атрибуту кольору фону. Таким чином, ці режими не мали лінійної з’єднаності, або простого шляху низьких втрат.

Дослідницька команда розуміє механічний погляд на з’єднаність мод, розглядаючи два набори параметрів, які мінімізують втрати, використовуючи фон та форму об’єкта як вхідні атрибути для прогнозування. І потім запитали себе: чи такі механічно відмінні мінімалізатори з’єднані шляхами низьких втрат у ландшафті? Чи відмінність цих механізмів впливає на простоту їхніх шляхів з’єднаності? Чи можна використати цю з’єднаність для перемикання між мінімалізаторами, які використовують бажані механізми?

Іншими словами, глибокі нейронні мережі, залежно від того, що вони засвоїли під час навчання на певному наборі даних, можуть поводитися дуже по-різному, коли їх тестують на іншому наборі даних. Пропозиція команди зводилася до концепції спільних подібностей. Вона будується на попередній ідеї з’єднаності мод, але з певним поворотом – вона розглядає, як працюють подібні механізми. Їхнє дослідження привело до наступних відкриттів:

• мінімалізатори, які мають різні механізми, можуть бути з’єднані досить складним, нелінійним способом
• коли два мінімалізатори лінійно з’єднані, це тісно пов’язано з тим, наскільки подібними є їхні моделі за механізмами
• просте доопрацювання може бути недостатнім для ліквідації нежаданих ознак, засвоєних під час попереднього навчання
• якщо знайдені регіони, які лінійно відокремлені у ландшафті, можна зробити ефективні зміни внутрішньої структури моделі.

Хоча це дослідження є значимим кроком у використанні повного потенціалу штучного інтелекту, етичні проблеми навколо штучного інтелекту можуть все ще бути складними. Технологи та дослідники працюють над подоланням інших етичних слабкостей штучного інтелекту та великих мовних моделей, таких як конфіденційність, автономність, відповідальність.

Штучний інтелект можна використовувати для збору та обробки великих обсягів особистих даних. Недозволене або неетичне використання цих даних може компрометувати конфіденційність осіб, що призводить до проблем зі стеженням, порушеннями даних та крадіжками особистих даних. Штучний інтелект також може становити загрозу, коли мова йде про відповідальність автономних застосунків, таких як самоходи. Створення правових рамок та етичних стандартів для відповідальності та відповідальності буде важливим у найближчі роки.

У висновку, швидкий розвиток технології генеративного штучного інтелекту обіцяє багато можливостей для різних галузей, від фінансів та охорони здоров’я до транспорту. Незважаючи на ці перспективні розробки, етичні проблеми, пов’язані з штучним інтелектом, залишаються суттєвими. Коли ми рухаємося цим трансформаційним періодом штучного інтелекту, важливо, щоб технологи, дослідники та політики працювали разом, щоб створити правові рамки та етичні стандарти, які забезпечать відповідальне та корисне використання технологій штучного інтелекту в майбутньому. Дослідники з NTT Research та Університету Мічигану вже на крок вперед з пропозицією алгоритму, який потенційно може ліквідувати упередженість у штучному інтелекті.