Исследователи ИИ предлагают использовать денежные вознаграждения для борьбы с предвзятостью ИИ и повышения этики ИИ

Команда исследователей ИИ из компаний и лабораторий разработки ИИ, таких как Intel (INTC ), Google (GOOGL ) Brain и OpenAI, рекомендует использовать денежные вознаграждения для обеспечения этического использования ИИ. Команда исследователей недавно опубликовала ряд предложений по этическому использованию ИИ, включая предложение о том, что поощрение людей за обнаружение предвзятости в ИИ может быть эффективным способом повышения справедливости ИИ.

По сообщению VentureBeat, исследователи из различных компаний США и Европы объединились, чтобы разработать набор этических руководств для разработки ИИ, а также предложения по их реализации. Одним из предложений, сделанных исследователями, было предложение о выплате денежных вознаграждений разработчикам, которые обнаруживают предвзятость в программах ИИ. Это предложение было сделано в статье под названием “К разработке доверенного ИИ: механизмы поддержки проверяемых утверждений“.

В качестве примеров предвзятости, которую команда исследователей надеется устранить, можно привести предвзятые данные и алгоритмы, обнаруженные во всем, от медицинских приложений до систем распознавания лиц, используемых правоохранительными органами. Одним из таких случаев предвзятости является инструмент оценки риска PATTERN, который был недавно использован Министерством юстиции США для разделения заключенных и определения, какие из них могут быть отправлены домой при сокращении размера тюремного населения в ответ на пандемию коронавируса.

Практика вознаграждения разработчиков за обнаружение нежелательного поведения в компьютерных программах является давней традицией, но это, возможно, первый случай, когда совет по этике ИИ серьезно продвигает эту идею как вариант борьбы с предвзятостью ИИ. Хотя маловероятно, что существует достаточно разработчиков ИИ, чтобы обнаружить достаточно предвзятости, чтобы гарантировать этичность ИИ, это все равно поможет компаниям уменьшить общую предвзятость и получить представление о том, какие виды предвзятости проникают в их системы ИИ.

Авторы статьи объяснили, что концепция поиска ошибок может быть расширена на ИИ с помощью использования денежных вознаграждений за предвзятость и безопасность, и что правильное использование этой техники может привести к лучшей документации наборов данных и моделей. Документация лучше отражала бы ограничения как модели, так и данных. Исследователи даже отметили, что ту же идею можно применить к другим свойствам ИИ, таким как интерпретируемость, безопасность и защита конфиденциальности.

По мере того, как вокруг этических принципов ИИ ведется все больше дискуссий, многие отметили, что принципы сами по себе недостаточны, и что необходимо предпринимать действия для поддержания этики ИИ. Авторы статьи подчеркивают, что “существующие правила и нормы в промышленности и академии недостаточны для обеспечения ответственной разработки ИИ”. Сооснователь Google Brain и лидер отрасли ИИ Эндрю Нг также высказался о том, что руководящие принципы сами по себе не имеют возможности гарантировать, что ИИ используется ответственно и справедливо, заявив, что многие из них нуждаются в более явных и действенных идеях.

Рекомендация исследовательской команды о поиске предвзятости является попыткой перейти от этических принципов к области этических действий. Исследовательская команда также сделала ряд других рекомендаций, которые могут способствовать этическим действиям в области ИИ.

Исследовательская команда сделала ряд других рекомендаций, которые компании могут следовать, чтобы сделать свое использование ИИ более этичным. Они предлагают создать централизованную базу данных инцидентов ИИ и поделиться ею с более широким сообществом ИИ. Аналогично, исследователи предлагают установить аудиторский след и сохранить информацию о создании и развертывании программ безопасности в платформах ИИ.

Чтобы сохранить конфиденциальность людей, исследовательская команда предложила использовать методы, ориентированные на конфиденциальность, такие как зашифрованные коммуникации, федеративное обучение и дифференциальная конфиденциальность. Кроме того, исследовательская команда предложила сделать открытые альтернативы широко доступными и подвергнуть коммерческие модели ИИ серьезному контролю. Наконец, исследовательская команда предлагает увеличить государственное финансирование, чтобы академические исследователи могли проверить заявления о производительности оборудования.