Что такое Ответственный ИИ: Принципы, Вызовы и Преимущества

Ответственный ИИ (RAI) относится к проектированию и развертыванию систем ИИ, которые являются прозрачными, беспристрастными, подотчетными и следуют этическим рекомендациям. По мере того, как системы ИИ становятся более совершенными и распространенными, обеспечение их ответственного развития и соблюдения требований безопасности и этики является крайне важным.

Здравоохранение, Транспорт, Управление сетями и Наблюдение являются критически важными приложениями ИИ, где отказ системы может иметь тяжелые последствия. Большые компании осознают, что RAI необходим для смягчения технологических рисков. Однако, согласно отчету MIT Sloan/BCG, который включал 1093 респондентов, 54% компаний не имели опыта и талантов в области Ответственного ИИ.

Хотя лидеры мнений и организации разработали принципы ответственного ИИ, обеспечение ответственного развития систем ИИ все еще представляет собой вызовы. Давайте подробнее рассмотрим эту идею:

5 Принципов Ответственного ИИ

1. Справедливость

Технологи должны разработать процедуры так, чтобы системы ИИ обращались со всеми людьми и группами справедливо, без предвзятости. Следовательно, справедливость является основным требованием в высокорисковых приложениях принятия решений.

Справедливость определяется как:

«Изучение влияния на различные демографические группы и выбор одной из нескольких математических определений справедливости группы, которая будет удовлетворять желаемому набору юридических, культурных и этических требований».

2. Ответственность

Ответственность означает, что люди и организации, разрабатывающие и развертывающие системы ИИ, должны быть ответственными за свои решения и действия. Команда, развертывающая системы ИИ, должна обеспечить, чтобы их система ИИ была прозрачной, интерпретируемой, аудиторской и не наносила вреда обществу.

Ответственность включает семь компонентов:

1. Контекст (цель, для которой требуется ответственность)
2. Область (предмет ответственности)
3. Агент (кто является ответственным?)
4. Форум (кому ответственный должен отчитаться)
5. Стандарты (критерии ответственности)
6. Процесс (метод ответственности)
7. Последствия (последствия ответственности)

3. Прозрачность

Прозрачность означает, что причина принятия решений в системах ИИ ясна и понятна. Прозрачные системы ИИ являются объяснимыми.

Согласно Списку оценки для Доверенного ИИ (ALTAI), прозрачность имеет три ключевых элемента:

1. Следуемость (данные, предварительная обработка и модель доступны)
2. Объяснимость (причина принятия решений/предсказания ясна)
3. Открытая коммуникация (о ограничениях системы ИИ)

4. Конфиденциальность

Конфиденциальность является одним из основных принципов ответственного ИИ. Она относится к защите личной информации. Этот принцип обеспечивает, чтобы личная информация людей собиралась и обрабатывалась с согласия и не попадала в руки злоумышленников.

Как недавно было показано, было дело Clearview, компании, которая создает модели распознавания лиц для правоохранительных органов и университетов. Британские органы по защите данных оштрафовали Clearview AI на 7,5 миллионов фунтов за сбор изображений жителей Великобритании из социальных сетей без согласия для создания базы данных из 20 миллиардов изображений.

5. Безопасность

Безопасность означает обеспечение того, чтобы системы ИИ были безопасными и не представляли угрозы для общества. Примером угрозы безопасности ИИ являются враждебные атаки. Эти злонамеренные атаки обманывают модели машинного обучения, заставляя их принимать неправильные решения. Защита систем ИИ от кибератак имеет важное значение для ответственного ИИ.

4 Основных Вызова и Риска Ответственного ИИ

1. Предвзятость

Человеческие предвзятости, связанные с возрастом, полом, национальностью и расой, могут повлиять на сбор данных, что потенциально может привести к предвзятым моделям ИИ. Исследование Министерства торговли США показало, что системы ИИ распознавания лиц неправильно идентифицируют людей цвета. Следовательно, использование ИИ для распознавания лиц в правоохранительных органах может привести к необоснованным арестам. Кроме того, создание справедливых моделей ИИ является сложной задачей, поскольку существует 21 разных параметр для определения их. Таким образом, существует компромисс; удовлетворение одного параметра справедливости ИИ означает жертву другим.

2. Интерпретируемость

Интерпретируемость является критическим вызовом в разработке ответственного ИИ. Она относится к пониманию того, как модель машинного обучения пришла к определенному выводу.

Глубокие нейронные сети лишены интерпретируемости, поскольку они работают как черные ящики с несколькими слоями скрытых нейронов, что делает трудным понимание процесса принятия решений. Это может быть вызовом в высокорисковых процессах принятия решений, таких как здравоохранение, финансы и т. д.

Кроме того, формализация интерпретируемости в моделях ИИ является сложной задачей, поскольку она является субъективной и специфичной для области.

3. Управление

Управление относится к набору правил, политик и процедур, которые контролируют разработку и развертывание систем ИИ. В последнее время был сделан значительный прогресс в дискурсе управления ИИ, и организации представили рамки и этические рекомендации.

Этические рекомендации для достоверного ИИ от ЕС, рамки этики ИИ Австралии и принципы ИИ ОЭСР являются примерами рамок управления ИИ.

Однако быстрый прогресс ИИ в последние годы может опережать эти рамки управления ИИ. Для этого необходимо иметь рамку, которая оценивает справедливость, интерпретируемость и этику систем ИИ.

4. Регулирование

По мере того, как системы ИИ становятся более распространенными, необходимо регулирование, которое будет учитывать этические и социальные ценности. Разработка регулирования, которое не будет препятствовать инновациям ИИ, является критическим вызовом в ответственного ИИ.

Даже с Общим регламентом по защите данных (GDPR), Законом о конфиденциальности потребителей Калифорнии (CCPA) и Законом о защите личной информации (PIPL) в качестве регулирующих органов, исследователи ИИ обнаружили, что 97% веб-сайтов ЕС не соответствуют требованиям GDPR.

Кроме того, законодатели сталкиваются с значительной проблемой в достижении консенсуса по определению ИИ, которое включает как классические системы ИИ, так и последние приложения ИИ.

3 Основных Преимущества Ответственного ИИ

1. Снижение Предвзятости

Ответственный ИИ снижает предвзятость в процессах принятия решений, создавая доверие к системам ИИ. Снижение предвзятости в системах ИИ может обеспечить справедливую и равноправную систему здравоохранения и снижает предвзятость в ИИ-основанных финансовых услугах и т. д.

2. Повышенная Прозрачность

Ответственный ИИ делает прозрачными приложения ИИ, создавая доверие к системам ИИ. Прозрачные системы ИИ снижают риск ошибок и неправильного использования. Повышенная прозрачность делает аудит систем ИИ проще, завоевывает доверие заинтересованных сторон и может привести к подотчетным системам ИИ.

3. Лучшая Безопасность

Безопасные приложения ИИ обеспечивают конфиденциальность данных, производят достоверный и безвредный вывод и защищены от кибератак.

Технологические гиганты, такие как Microsoft и Google, которые являются лидерами в разработке систем ИИ, разработали принципы ответственного ИИ. Ответственный ИИ обеспечивает, чтобы инновации в ИИ не были вредными для людей и общества.

Лидеры мнений, исследователи, организации и правовые власти должны постоянно пересматривать литературу об ответственных ИИ, чтобы обеспечить безопасное будущее для инноваций ИИ.

Для получения дополнительной информации об ИИ посетите unite.ai.