Исследователи ИИ предлагают введение премий за предвзятость ИИ, чтобы сделать ИИ более этичным

Команда исследователей ИИ из компаний и лабораторий разработки ИИ, таких как Intel, Google Brain и OpenAI, рекомендует использовать премии для обеспечения этического использования ИИ. Команда исследователей недавно опубликовала ряд предложений по этическому использованию ИИ, и они включили предложение о том, что вознаграждение людей за обнаружение предвзятости в ИИ может быть эффективным способом сделать ИИ более справедливым.

Как сообщает VentureBeat, исследователи из различных компаний в США и Европе объединились, чтобы разработать набор этических руководств для разработки ИИ, а также предложения по их реализации. Одним из предложений, которые сделали исследователи, было предложение о премиях разработчикам, которые обнаруживают предвзятость в программах ИИ. Это предложение было сделано в статье под названием “Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims“.

Как примеры предвзятости, которые команда исследователей надеется устранить, предвзятые данные и алгоритмы были обнаружены во всем, от приложений здравоохранения до систем распознавания лиц, используемых правоохранительными органами. Одним из таких случаев предвзятости является инструмент оценки риска PATTERN, который недавно использовался Министерством юстиции США для_triажа_пленных и решения о том, кого можно отправить домой при сокращении размеров тюремного населения в ответ на пандемию коронавируса.

Практика вознаграждения разработчиков за обнаружение нежелательного поведения в компьютерных программах является давней, но это, возможно, первый раз, когда совет по этике ИИ серьезно продвигает эту идею как вариант борьбы с предвзятостью ИИ. Хотя вряд ли существует достаточно разработчиков ИИ, чтобы обнаружить достаточно предвзятости, чтобы гарантировать, что ИИ является этичным, это все равно поможет компаниям уменьшить общую предвзятость и понять, какие виды предвзятости проникают в их системы ИИ.

Авторы статьи объяснили, что концепция премий за ошибки может быть расширена на ИИ с помощью премий за предвзятость и безопасность, и что правильное использование этого метода может привести к лучшей документации наборов данных и моделей. Документация лучше отражает ограничения как модели, так и данных. Исследователи даже отмечают, что ту же идею можно применить к другим свойствам ИИ, таким как интерпретируемость, безопасность и защита конфиденциальности.

По мере того, как обсуждение вокруг этических принципов ИИ становится все более распространенным, многие отметили, что принципы сами по себе недостаточны, и что необходимо предпринимать действия для сохранения этики ИИ. Авторы статьи отмечают, что “существующие правила и нормы в промышленности и академии недостаточны для обеспечения ответственной разработки ИИ”. Сооснователь Google Brain и лидер отрасли ИИ Эндрю Нг также высказался о том, что руководящие принципы сами по себе не имеют возможности гарантировать, что ИИ используется ответственно и справедливо, сказав, что многие из них нуждаются в более явных и действенных идеях.

Рекомендация исследовательской команды о премиях за предвзятость является попыткой выйти за рамки этических принципов в область этических действий. Исследовательская команда также сделала ряд других рекомендаций, которые могут стимулировать этические действия в области ИИ.

Исследовательская команда сделала ряд других рекомендаций, которые компании могут следовать, чтобы сделать свое использование ИИ более этичным. Они предлагают создать централизованную базу данных инцидентов ИИ и поделиться ею с более широким сообществом ИИ. Аналогично, исследователи предлагают создать аудиторский след и сохранить информацию о создании и развертывании критически важных приложений на платформах ИИ.

Для сохранения конфиденциальности людей исследовательская команда предложила использовать методы, ориентированные на конфиденциальность, такие как зашифрованные коммуникации, федеральное обучение и дифференциальная конфиденциальность. Помимо этого, исследовательская команда предложила сделать открытыми альтернативы и подвергнуть коммерческие модели ИИ тщательному контролю. Наконец, исследовательская команда предлагает увеличить государственное финансирование, чтобы академические исследователи могли проверить заявления о производительности аппаратного обеспечения.