ЕС запустит первые правила искусственного интеллекта

21 апреля Европейский Союз объявит о своем первом нормативном акте, регулирующем использование искусственного интеллекта. Новые правила полностью запретят “высокорисковые” системы машинного обучения и введут минимальные стандарты для других технологий машинного обучения, предусматривая штрафы в размере 20 миллионов евро или 4% от оборота компании за нарушения.

Проект отчета о новом законе, полученный Politico, направлен на содействие инновациям и развитию систем искусственного интеллекта для общей пользы экономики и общества ЕС, в таких областях, как производство, улучшение энергетической эффективности и моделирование изменения климата; но он запретит использование машинного обучения в системах кредитного скоринга, автоматической оценке уголовных наказаний и оценке пригодности для социальных пособий и заявок на получение убежища или виз, среди других запретов, которые будут раскрыты позже.

Проект явно заявляет, что китайские системы социального кредитования для физических и юридических лиц противоречат ценностям Европейского Союза и будут запрещены в соответствии с регламентом, а также технологии “массового наблюдения”, работающие на искусственном интеллекте.

Надзор за соблюдением правил

После назначения высокого уровня экспертной группы по искусственному интеллекту в марте 2021 года ЕС также намерен учредить новую Европейскую доску по искусственному интеллекту, в которую войдут представители каждого государства-члена, а также представитель Европейской комиссии и органа по защите данных ЕС.

Возможно, самым радикальным и потенциально спорным положением проекта является запрет систем, которые наносят вред населению ЕС “манипулируя их поведением, мнениями или решениями”, что, можно утверждать, включает многие технологии, которые обеспечивают анализ коммерческих и политических маркетинговых кампаний.

Регуляторы сделают исключения для борьбы с серьезными преступлениями, разрешив использование систем распознавания лиц в определенных пределах объема и продолжительности использования.

Как и в случае с широким применением GDPR, эти новые правила, кажется, могут быть достаточно общими, чтобы вызвать “охлаждение” в областях, где не предоставляются строгие рекомендации по использованию искусственного интеллекта, и корпорации рискуют столкнуться с проблемами, если их использование машинного обучения попадает в потенциальную серую зону правил.

Предвзятость в новых правилах ЕС по искусственному интеллекту

Однако самой большой проблемой и возможным юридическим препятствием является положение проекта регламента, которое гласит, что наборы данных не должны “включать в себя какие-либо намеренные или ненамеренные предвзятости”, которые могут способствовать дискриминации.

Предвзятость данных является одной из наиболее сложных задач при разработке систем машинного обучения – трудно доказать, трудно устранить и глубоко связана с центральными культурами органов, собирающих данные. Эта проблема все чаще ставит частные и государственные исследовательские органы в противоречие между необходимостью точно представлять различные группы (практически основная цель вычислительной математики и эмпирического статистического анализа) и возможностью распространения расового профилирования и культурной демонизации, среди других соображений.

Следовательно, вероятно, что рынки вне ЕС будут надеяться, что новый регламент предоставит хотя бы некоторые конкретные области рекомендаций и ряд применимых определений в этом отношении.

Внешнее сопротивление регулированию ЕС по искусственному интеллекту

Новый регламент, вероятно, окажет глубокое влияние на правовые последствия использования машинного обучения для анализа публичных данных – а также на такие данные, которые все еще можно будет получить от пользователей интернета в пост-трекинговую эпоху, которая сейчас вводится Apple, Firefox и (в меньшей степени) Chrome.

Юрисдикция может потребовать четкого определения, например, в случаях, когда гиганты FAANG собирают данные пользователей в соответствии с GDPR, но обрабатывают эти данные с помощью систем машинного обучения вне Европейского Союза. Неясно, могут ли алгоритмы, полученные с помощью таких систем, применяться к платформам внутри ЕС, и еще менее ясно, как такое применение может быть доказано.

В случае использования искусственного интеллекта для информирования решений о лишении свободы и приговоров, растущая тенденция в США, собственные периодические эксперименты Великобритании в этой области были бы охвачены новым регламентом, если бы страна не вышла из Европейского Союза.

В 2020 году проект меморандума Белого дома о регулировании искусственного интеллекта изложил американскую позицию в пользу низкого регулирования искусственного интеллекта, заявив, что “Федеральные агентства должны избегать нормативных или ненормативных действий, которые без необходимости препятствуют инновациям и росту искусственного интеллекта”. Можно утверждать, что такое отношение, вероятно, сохранится после администрации Трампа, при которой был опубликован этот меморандум, но rather отражает надвигающееся трение между США и ЕС в связи с новым регламентом.

Аналогично, “Дорожная карта искусственного интеллекта” Совета по искусственному интеллекту Великобритании выражает большую энтузиазм по поводу экономических выгод от внедрения искусственного интеллекта, но общую обеспокоенность тем, что новые регуляции не должны препятствовать этому прогрессу.

Первый真正ный закон об искусственном интеллекте

Коммитмент ЕС к юридической позиции по искусственному интеллекту является инновационным. Последние десять лет были отмечены бурей белых бумаг и предварительных заключений и рекомендаций комитетов правительств всего мира, сосредоточенных на этике искусственного интеллекта, с небольшим количеством фактических законов.

Географическое распределение издателей этических рекомендаций по искусственному интеллекту по количеству выпущенных документов, по данным опроса 2019 года. Наибольшее количество этических рекомендаций выпущено в США и в Европейском Союзе, за которыми следуют Великобритания и Япония. Канада, Исландия, Норвегия, Объединенные Арабские Эмираты, Индия, Сингапур, Южная Корея, Австралия представлены по одному документу каждая. Страны-члены G7, внесшие вклад в конкретное заявление G7, выделены отдельно. Источник: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf

Дополнительное чтение

Национальные политики и стратегии искусственного интеллекта (ОЭСР)