5 Основных Столпов для Обеспечения Ответственного ИИ

Мы наблюдаем огромный рост систем ИИ/МЛ для обработки океанов данных, которые генерируются в новой цифровой экономике. Однако с этим ростом возникает необходимость серьезно рассмотреть этические и юридические последствия ИИ.

По мере того, как мы доверяем все более сложные и важные задачи системам ИИ, таким как автоматическое одобрение кредитов, например, мы должны быть абсолютно уверены, что эти системы являются ответственными и заслуживающими доверия. Снижение предвзятости в ИИ стало огромной областью внимания для многих исследователей и имеет огромные этические последствия, как и количество автономности, которое мы предоставляем этим системам.

Концепция Ответственного ИИ является важной основой, которая может помочь построить доверие к вашим развертываниям ИИ. Существуют пять основных столпов для Ответственного ИИ. Эта статья исследует эти столпы, чтобы помочь вам построить лучшие системы.

1. Повторяемость

Есть старая пословица в мире разработки программного обеспечения, которая гласит: «Эй, это работает на моей машине». В МЛ и ИИ эта фраза может быть изменена на: «Эй, это работает на моем наборе данных». Это означает, что модели машинного обучения могут часто быть черным ящиком. Многие тренировочные наборы данных могут иметь врожденные предвзятости, такие как предвзятость выборки или предвзятость подтверждения, которые снижают точность конечного продукта.

Чтобы сделать системы ИИ/МЛ более повторяемыми, и поэтому точными и заслуживающими доверия, первый шаг — стандартизировать конвейер MLOps. Даже самые умные ученые-исследователи имеют свои любимые технологии и библиотеки, что означает, что инженерия функций и результирующие модели не являются унифицированными от человека к человеку. Используя инструменты, такие как MLflow, вы можете стандартизировать конвейер MLOps и снизить эти различия.

Другой способ сделать системы ИИ/МЛ более повторяемыми — использовать так называемые «золотые наборы данных». Это представительные наборы данных, которые по сути являются тестами и проверкой новых моделей перед их выпуском в производство.

2. Прозрачность

Как было сказано ранее, многие модели МЛ, особенно нейронные сети, являются черным ящиком. Чтобы сделать их более ответственными, нам нужно сделать их более интерпретируемыми. Для простых систем, таких как деревья решений, довольно легко понять, как и почему система приняла определенное решение, но по мере того, как точность и сложность системы ИИ увеличиваются, ее интерпретируемость часто снижается.

Существует новая область исследований, называемая «объяснимостью», которая пытается привнести прозрачность даже в сложные системы ИИ, такие как нейронные сети и глубокое обучение. Эти системы используют прокси-модели для копирования производительности нейронной сети, но они также пытаются предоставить действительные объяснения того, какие функции являются важными.

Все это приводит к справедливости; вы хотите знать, почему было принято определенное решение, и убедиться, что это решение является справедливым. Вы также хотите убедиться, что неуместные функции не учитываются, чтобы предвзятость не проникла в вашу модель.

3. Ответственность

Возможно, наиболее важным аспектом Ответственного ИИ является ответственность. Есть много разговоров об этой теме, даже в государственном секторе, поскольку она связана с тем, какие политики будут стимулировать результаты ИИ. Этот подход, основанный на политике, определяет, на какой стадии люди должны быть в цикле.

Ответственность требует прочных мониторов и метрик, чтобы помочь политикам и контролировать системы ИИ/МЛ. Ответственность по сути объединяет повторяемость и прозрачность, но она требует эффективного надзора в форме комитетов по этике ИИ. Эти комитеты могут заниматься политическими решениями, решать, что важно измерять, и проводить обзоры справедливости.

4. Безопасность

Безопасность ИИ фокусируется на конфиденциальности и целостности данных. Когда системы обрабатывают данные, вы хотите, чтобы они были в безопасной среде. Вы хотите, чтобы данные были зашифрованы как при хранении в вашей базе данных, так и при передаче по каналу, но уязвимости все еще существуют, когда они передаются в модель машинного обучения в виде простого текста. Технологии, такие как гомоморфное шифрование, решают эту проблему, позволяя обучать модели машинного обучения в зашифрованной среде.

Другой аспект — безопасность самой модели. Например, атаки на инверсию модели позволяют хакерам узнать, какие данные были использованы для обучения модели. Также существуют атаки на отравление модели, которые вставляют плохие данные в модель во время обучения и полностью разрушают ее производительность. Тестирование вашей модели на атаки, подобные этим, может сохранить ее безопасность.

5. Конфиденциальность

Google и OpenMined — две организации, которые недавно уделяли приоритетное внимание конфиденциальности ИИ, и OpenMined провела недавнюю конференцию на эту тему. С новыми регуляциями, такими как GDPR и CCPA, и потенциально еще больше регуляций, конфиденциальность будет играть центральную роль в том, как мы обучаем модели машинного обучения.

Один из способов обеспечить конфиденциальность при обработке данных клиентов — использовать федеративное обучение. Этот децентрализованный метод машинного обучения обучает разные модели локально, а затем объединяет каждую модель в центральном хабе, сохраняя данные в безопасности, безопасности и конфиденциальности. Другой метод — введение статистического шума, чтобы индивидуальные значения клиентов не были раскрыты. Это позволяет вам работать с агрегатными данными, сохраняя индивидуальные данные клиентов целыми и недоступными для алгоритма.

Сохранение Ответственного ИИ

 В конечном итоге, сохранение Ответственного ИИ зависит от каждой организации, которая проектирует системы ИИ/МЛ. ИнтENTIONально преследуя технологии внутри каждого из этих пяти аспектов Ответственного ИИ, вы можете не только извлечь выгоду из силы искусственного интеллекта, но и сделать это в заслуживающем доверия и прямом виде, который будет успокаивать вашу организацию, клиентов и регулирующие органы.