Дослідники викликають довгострокове припущення щодо машинного навчання

Дослідники в Університеті Карнегі-Меллона викликають довгострокове припущення щодо машинного навчання, яке полягає в тому, що існує компроміс між точністю та справедливістю в алгоритмах, що використовуються для прийняття рішень у сфері державної політики.

Використання машинного навчання зростає в багатьох сферах, таких як кримінальна справедливість, прийняття на роботу, надання медичної допомоги та соціальних послуг. Разом з цим зростанням також зростають побоювання щодо того, чи ці нові застосування можуть погіршити існуючі нерівності. Вони можуть бути особливо шкідливими для расових меншин або осіб з економічними недоліками.

Корегування системи

Є постійні корегування даних, міток, навчання моделей, систем оцінювання та інших аспектів системи для захисту від упередженості. Однак теоретичне припущення полягало в тому, що система стає менш точною, коли робиться більше таких корегувань.

Команда в Університеті Карнегі-Меллона вирішила викликнути це припущення в новому дослідженні, опублікованому в Nature Machine Intelligence.

Рейд Гані є професором школи комп’ютерних наук відділу машинного навчання та коледжу інформаційних систем і державної політики. Він був приєднаний до Кіта Родольфи, дослідника в MLD, та Хеманка Ламби, постдокторального дослідника в SCS.

Тестування реальних застосувань

Дослідники протестували це припущення в реальних застосунках і виявили, що компроміс між точністю та справедливістю є незначним у багатьох сферах державної політики.

“Ви можете отримати обидва. Ви не повинні жертвувати точністю, щоб створити системи, які є справедливими та рівними”, – сказав Гані. “Але для цього потрібно свідомо проектувати системи, щоб вони були справедливими та рівними. Готові системи не працюватимуть.”

Команда зосередилася на ситуаціях, коли ресурси обмежені. Розподіл цих ресурсів допомагає машинному навчанню.

Вони зосередилися на системах у чотирьох сферах:

• віддавання пріоритету обмеженому психологічному консультуванню на основі ризику повернення до в’язниці для giảm повторного ув’язнення;
• прогнозування серйозних порушень безпеки для кращого розгортання обмежених інспекторів житла;
• моделювання ризику відсутності закінчення школи вчасно для визначення тих, хто найбільш потребує додаткової підтримки;
• і допомога вчителям досягти цілей краудфандингу для потреб класу.

Дослідники виявили, що моделі, оптимізовані для точності, можуть ефективно прогнозувати результати інтересу. Однак вони також продемонстрували значні розбіжності у рекомендаціях щодо втручань.

Важливі результати були отримані, коли дослідники застосували корегування до виходів моделей, які мали на меті поліпшення їхньої справедливості. Вони виявили, що не було втрати точності, коли розбіжності, пов’язані з расою, віком або доходом, були усунені.

“Ми хочемо, щоб штучний інтелект, комп’ютерні науки та спільноти машинного навчання перестали приймати це припущення про компроміс між точністю та справедливістю та почали свідомо проектувати системи, які максимізують обидва”, – сказав Родольфа. “Ми сподіваємося, що політики приймуть машинне навчання як інструмент у своєму прийнятті рішень, щоб допомогти їм досягти рівних результатів.”