Исследователи оспаривают давнее предположение о машинном обучении

Исследователи в Университете Карнеги-Меллона оспаривают давнее предположение о машинном обучении, которое гласит, что существует компромисс между точностью и справедливостью в алгоритмах, используемых для принятия решений в области государственной политики.

Использование машинного обучения увеличивается во многих областях, таких как уголовное правосудие, прием на работу, здравоохранение и социальные услуги. С этим ростом также растут опасения по поводу того, могут ли эти новые применения усугубить существующие неравенства. Они могут быть особенно вредными для расовых меньшинств или людей с экономическими недостатками.

Настройка системы

Постоянно проводятся корректировки данных, меток, обучения модели, систем оценки и других аспектов системы, чтобы предотвратить предвзятость. Однако теоретическое предположение заключалось в том, что система становится менее точной, когда проводится больше таких корректировок.

Команда в Университете Карнеги-Меллона решила оспорить эту теорию в новом исследовании, опубликованном в Nature Machine Intelligence.

Рэйд Гани – профессор Школы компьютерных наук, отделения машинного обучения (MLD) и Колледжа информационных систем и государственной политики Хайнца. Он был присоединен к Киту Родольфе, исследователю в MLD, и Хеманку Ламбе, постдокторанту в SCS.

Тестирование реальных приложений

Исследователи проверили это предположение на реальных приложениях и обнаружили, что компромисс между точностью и справедливостью незначителен во многих областях политики.

“Вы можете получить и то, и другое. Вам не нужно жертвовать точностью, чтобы построить справедливые и равноправные системы”, – сказал Гани. “Но для этого необходимо намеренно проектировать системы, чтобы они были справедливыми и равноправными. Стандартные системы не подойдут.”

Команда сосредоточилась на ситуациях, когда ограниченные ресурсы находятся в высоком спросе. Распределение этих ресурсов помогает машинному обучению.

Они сосредоточились на системах в четырех областях:

• определение приоритетов ограниченного психиатрического ухода на основе риска повторного заключения под стражу для снижения рецидивизма;
• предсказание серьезных нарушений безопасности для лучшего развертывания ограниченных инспекторов жилья;
• моделирование риска неокончания школы вовремя для выявления тех, кто нуждается в дополнительной поддержке;
• и помощь учителям в достижении целей краудфандинга для классных нужд.

Исследователи обнаружили, что модели, оптимизированные для точности, могут эффективно предсказывать результаты, представляющие интерес. Однако они также продемонстрировали значительные различия в рекомендациях по вмешательствам.

Важные результаты были получены, когда исследователи применили корректировки к выходным данным моделей, которые были направлены на улучшение их справедливости. Они обнаружили, что нет потери точности, когда различия, основанные на расе, возрасте или доходе, были устранены.

“Мы хотим, чтобы искусственный интеллект, компьютерные науки и сообщества машинного обучения перестали принимать это предположение о компромиссе между точностью и справедливостью и начали намеренно проектировать системы, которые максимизируют оба показателя”, – сказал Родольфа. “Мы надеемся, что политические деятели будут использовать машинное обучение как инструмент в процессе принятия решений, чтобы помочь им достичь справедливых результатов.”