Что означает Билль о правах ИИ Белого дома для Америки и остального мира

Офис науки и технологической политики Белого дома (OSTP) недавно опубликовал белую книгу под названием “Проект Билля о правах ИИ: создание автоматизированных систем, работающих на благо американского народа”. Этот каркас был выпущен через год после того, как OSTP объявил о запуске процесса разработки “билля о правах для мира, управляемого ИИ”.

В предисловии к этому биллю четко видно, что Белый дом понимает надвигающиеся угрозы обществу, исходящие от ИИ. Вот что говорится в предисловии:

“Среди великих проблем, с которыми сталкивается демократия сегодня, является использование технологий, данных и автоматизированных систем способами, которые угрожают правам американской общественности. Слишком часто эти инструменты используются для ограничения наших возможностей и предотвращения доступа к критически важным ресурсам или услугам. Эти проблемы хорошо документированы. В Америке и во всем мире системы, предназначенные для помощи в уходе за пациентами, оказались небезопасными, неэффективными или предвзятыми. Алгоритмы, используемые при приеме на работу и принятии кредитных решений, были признаны отражающими и воспроизводящими существующие нежелательные неравенства или внедряющими новые вредные предубеждения и дискриминацию. Неограниченный сбор данных в социальных сетях использовался для угрозы возможностям людей, подрыва их конфиденциальности или всестороннего отслеживания их деятельности – часто без их ведома или согласия.”

Неизвестно, что этот Билль о правах и предложенный им каркас будут означать для будущего ИИ. То, что мы знаем, – это то, что новые разработки появляются с экспоненциально возрастающей скоростью. То, что когда-то считалось невозможным, мгновенный перевод языка теперь является реальностью, и в то же время мы имеем революцию в понимании естественного языка (NLU), возглавляемую OpenAI и их знаменитой платформой GPT-3.

С тех пор мы стали свидетелями мгновенного создания изображений с помощью техники, называемой Стабильным распространением, которая может вскоре стать массовым потребительским продуктом. По сути, с помощью этой технологии пользователь может просто ввести любой запрос, который он может придумать, и, как по волшебству, ИИ создаст изображение, соответствующее запросу.

При учете экспоненциального роста и Закона ускоряющихся возвращений скоро наступит время, когда ИИ возьмет под контроль каждый аспект повседневной жизни. Лица и компании, которые знают об этом и используют эту парадигмальную смену, будут получать прибыль. К сожалению, большой сегмент общества может стать жертвой как умышленных, так и неумышленных последствий ИИ.

Билль о правах ИИ предназначен для поддержки разработки политики и практики, которые защищают гражданские права и продвигают демократические ценности при создании, развертывании и управлении автоматизированными системами. Как этот билль будет сравниваться с подходом Китая, остается быть увиденным, но это билль о правах, который имеет потенциал изменить ландшафт ИИ, и, вероятно, будет принят союзниками, такими как Австралия, Канада и ЕС.

Как было заявлено, Билль о правах ИИ является не обязательным и не составляет политику правительства США. Он не отменяет, не изменяет и не направляет интерпретацию какого-либо существующего закона, правила, политики или международного инструмента. То, что это означает, – это то, что предприятиям и правительствам придется следовать политике, изложенной в этой белой книге.

Этот билль определил пять принципов, которые должны руководить проектированием, использованием и развертыванием автоматизированных систем для защиты американской общественности в эпоху искусственного интеллекта. Ниже мы изложим 5 принципов:

1. Безопасные и эффективные системы

Есть явная и настоящая угроза обществу от злоупотребления системами ИИ, особенно тех, которые полагаются на глубокое обучение. Это пытается решить эти принципы:

“Вы должны быть защищены от небезопасных или неэффективных систем. Автоматизированные системы должны разрабатываться с учетом мнений различных сообществ, заинтересованных сторон и экспертов в области для выявления проблем, рисков и потенциального воздействия системы. Системы должны пройти предварительное тестирование, выявление и смягчение рисков, а также постоянный мониторинг, который демонстрирует, что они безопасны и эффективны на основе их предполагаемого использования, смягчения небезопасных результатов, включая те, которые выходят за рамки предполагаемого использования, и соблюдения отраслевых стандартов. Результаты этих защитных мер должны включать возможность не развертывать систему или удалять ее из использования. Автоматизированные системы не должны разрабатываться с намерением или разумно предсказуемой возможностью подвергать опасности вашу безопасность или безопасность вашего сообщества. Они должны быть разработаны для активной защиты вас от вреда, возникающего из непредвиденных, но предсказуемых, использований или воздействий автоматизированных систем. Вы должны быть защищены от неуместного или нерелевантного использования данных при проектировании, разработке и развертывании автоматизированных систем, а также от накопленного вреда их повторного использования. Независимая оценка и отчетность, подтверждающая, что система безопасна и эффективна, включая отчетность о мерах, принятых для смягчения потенциального вреда, должна быть проведена, и результаты должны быть опубликованы, когда это возможно.”

2. Защита от дискриминации алгоритмов

Эти политики решают некоторые из основных проблем, связанных с злоупотреблением предприятиями в отношении отдельных лиц.

Распространенная проблема при приеме на работу с помощью систем ИИ заключается в том, что система глубокого обучения часто тренируется на предвзятых данных для принятия решений о приеме на работу. Это фактически означает, что плохие практики приема на работу в прошлом приведут к дискриминации по половому или расовому признаку со стороны агента по найму. Одно исследование показало трудность попытки удалить пол из обучающих данных.

Другая основная проблема с предвзятыми данными со стороны правительств заключается в риске незаконного заключения под стражу или даже алгоритмов предсказания преступности, которые предлагают более длительные сроки заключения для меньшинств.

“Вы не должны столкнуться с дискриминацией алгоритмов, и системы должны использоваться и разрабатываться справедливым образом. Дискриминация алгоритмов возникает, когда автоматизированные системы способствуют неоправданному различному обращению или воздействию, неблагоприятному для людей на основе их расы, цвета, этнической принадлежности, пола (включая беременность, роды и связанные с ними медицинские условия, гендерную идентичность, интерсексуальный статус и сексуальную ориентацию), религии, возраста, национального происхождения, инвалидности, статуса ветерана, генетической информации или любой другой классификации, защищенной законом. В зависимости от конкретных обстоятельств, такой алгоритmic дискриминация может нарушать правовые защиты. Разработчики, производители и эксплуатанты автоматизированных систем должны принимать активные и постоянные меры для защиты отдельных лиц и сообществ от дискриминации алгоритмов и для использования и разработки систем справедливым образом. Эта защита должна включать активные оценки справедливости в рамках проектирования системы, использование представительных данных и защиту от прокси для демографических особенностей, обеспечение доступности для людей с ограниченными возможностями в проектировании и разработке, предварительное тестирование и постоянное тестирование на неравенство и смягчение, а также четкий организационный надзор. Независимая оценка и отчетность в форме алгоритмической оценки воздействия, включая результаты тестирования на неравенство и смягчение, должна быть проведена и опубликована, когда это возможно, для подтверждения этих защит.”

Следует отметить, что США приняли очень прозрачный подход, когда речь идет об ИИ, эти политики предназначены для защиты широкой общественности, ясный контраст подходам к ИИ, принятым Китаем.

3. Защита данных

Этот принцип защиты данных, вероятно, повлияет на самый большой сегмент населения. Первая половина принципа, кажется, занимается сбором данных, в частности с данными, собранными через Интернет, известной проблемой, особенно для социальных сетей. Эти же данные могут быть использованы для продажи рекламы или даже хуже для манипулирования общественным мнением и влияния на выборы.

“Вы должны быть защищены от злоупотребления данными посредством встроенных защит и иметь контроль над тем, как данные о вас используются. Вы должны быть защищены от нарушений конфиденциальности посредством выбора дизайна, которые обеспечивают такие защиты по умолчанию, включая обеспечение того, что сбор данных соответствует разумным ожиданиям, и что собираются только данные, строго необходимые для конкретного контекста. Разработчики, производители и эксплуатанты автоматизированных систем должны искать ваше разрешение и уважать ваши решения, касающиеся сбора, использования, доступа, передачи и удаления ваших данных в подходящих способах и в наибольшей степени, возможной; когда это не возможно, должны использоваться альтернативные средства защиты конфиденциальности по дизайну. Системы не должны использовать решения по дизайну и пользовательскому опыту, которые затрудняют выбор пользователя или обременяют пользователей настройками по умолчанию, которые являются вторжением в конфиденциальность. Согласие должно использоваться только для оправдания сбора данных в случаях, когда оно может быть надлежащим образом и осмысленно дано. Любые запросы на согласие должны быть краткими, понятными на простом языке и давать вам контроль над сбором данных и конкретным контекстом использования; текущие трудно понимаемые практики уведомления и выбора для широкого использования данных должны быть изменены.”

Вторая половина принципа защиты данных, кажется, занимается слежкой как со стороны правительств, так и со стороны предприятий.

В настоящее время предприятия могут отслеживать и шпионить за сотрудниками, в некоторых случаях это может быть для улучшения безопасности на рабочем месте, во время пандемии COVID-19 это было для обеспечения ношения масок, чаще всего это делается для отслеживания того, как время на работе используется. Во многих из этих случаев сотрудники чувствуют, что они отслеживаются и контролируются за пределами того, что считается приемлемым.

“Усиленные защиты и ограничения для данных и выводов, связанных с чувствительными областями, включая здравоохранение, работу, образование, уголовное правосудие и финансы, и для данных, касающихся молодежи, должны ставить вас на первое место. В чувствительных областях ваши данные и связанные с ними выводы должны использоваться только для необходимых функций, и вы должны быть защищены этическим обзором и запретами на использование. Вы и ваши сообщества должны быть свободны от неограниченной слежки; технологии слежки должны подвергаться усилению надзора, которое включает как минимум предварительную оценку их потенциального вреда и ограничения объема для защиты конфиденциальности и гражданских свобод. Постоянная слежка и мониторинг не должны использоваться в образовании, на работе, в жилье или в других контекстах, где использование таких технологий слежки, вероятно, ограничит права, возможности или доступ. Когда это возможно, вы должны иметь доступ к отчетности, подтверждающей, что ваши решения, связанные с данными, были уважены, и предоставляющей оценку потенциального воздействия технологий слежки на ваши права, возможности или доступ.”

Следует отметить, что ИИ может быть использован для хорошего дела защиты конфиденциальности людей.

4. Уведомление и объяснение

Это должно быть призывом к действию для предприятий развернуть совет по этике ИИ, а также ускорить разработку объяснимого ИИ. Объяснимый ИИ необходим в случае, если модель ИИ совершает ошибку, понимание того, как работает ИИ, позволяет легко диагностировать проблему.

Объяснимый ИИ также позволит прозрачному обмену информацией о том, как используются данные, и почему ИИ принял решение. Без объяснимого ИИ невозможно соблюдать эти политики из-за проблемы черного ящика глубокого обучения.

Предприятия, которые сосредотачиваются на улучшении этих систем, также получат положительные выгоды от понимания нюансов и сложностей, стоящих за тем, почему алгоритм глубокого обучения принял конкретное решение.

“Вы должны знать, что автоматизированная система используется и понимать, как и почему она способствует результатам, которые влияют на вас. Разработчики, производители и эксплуатанты автоматизированных систем должны предоставлять общедоступную документацию на простом языке, включая ясные описания общей функциональности системы и роли автоматизации, уведомление о том, что такие системы используются, лицо или организация, ответственные за систему, и объяснения результатов, которые являются ясными, своевременными и доступными. Такое уведомление должно быть актуальным, и люди, затронутые системой, должны быть уведомлены о значительных изменениях в использовании или ключевой функциональности. Вы должны знать, как и почему результат, влияющий на вас, был определен автоматизированной системой, включая когда автоматизированная система не является единственным входом, определяющим результат. Автоматизированные системы должны предоставлять объяснения, которые являются технически действительными, осмысленными и полезными для вас и для любых операторов или других, кто должен понимать систему, и калиброванными до уровня риска на основе содержания. Отчетность, включающая сводную информацию об этих автоматизированных системах на простом языке и оценку ясности и качества уведомления и объяснений, должна быть опубликована, когда это возможно.”

5. Человеческие альтернативы, рассмотрение и резерв

В отличие от большинства вышеуказанных принципов, этот принцип наиболее применим к государственным органам или приватизированным учреждениям, которые работают от имени правительства.

Даже с советом по этике ИИ и объяснимым ИИ важно полагаться на человеческий обзор, когда на карту поставлены жизни. Всегда существует потенциал для ошибки, и наличие человеческого обзора дела по запросу может, возможно, избежать сценария, такого как ИИ, отправляющий неправильных людей в тюрьму.

Судебная и уголовная системы имеют наибольший потенциал для причинения непоправимого вреда маргинализированным членам общества и должны принять особое внимание к этому принципу.

“Вы должны иметь возможность отказаться, когда это уместно, и иметь доступ к человеку, который может быстро рассмотреть и решить проблемы, с которыми вы столкнулись. Вы должны иметь возможность отказаться от автоматизированных систем в пользу человеческой альтернативы, когда это уместно. Уместность должна определяться на основе разумных ожиданий в данном контексте и с фокусом на обеспечении широкой доступности и защиты общества от особенно вредного воздействия. В некоторых случаях человеческая альтернатива может быть обязательной по закону. Вы должны иметь доступ к своевременному человеческому рассмотрению и решению проблемы, если автоматизированная система не функционирует, она производит ошибку, или вы хотите обжаловать или оспорить ее воздействие на вас. Человеческое рассмотрение и резерв должны быть доступными, справедливыми, эффективными, поддерживаемыми и сопровождаемыми соответствующей подготовкой операторов, и не должны налагать непомерную ношу на общественность. Автоматизированные системы с предполагаемым использованием в чувствительных областях, включая, но не ограничиваясь, уголовной системы, занятости, образования и здравоохранения, должны быть адаптированы к цели, предоставлять значимый доступ к надзору, включать подготовку для людей, взаимодействующих с системой, и включать человеческое рассмотрение для неблагоприятных или высокорисковых решений. Отчетность, включающая описание этих человеческих процессов управления и оценку их своевременности, доступности, результатов и эффективности, должна быть опубликована, когда это возможно.”

Сводка

OSTP должно быть дано кредит за попытку ввести каркас, который соединяет протоколы безопасности, необходимые для общества, без введения драконовских политик, которые могли бы помешать прогрессу в разработке машинного обучения.

После того, как принципы изложены, билль продолжает предоставление технического сопровождения к обсуждаемым вопросам, а также подробную информацию о каждом принципе и лучших способах продвижения вперед для реализации этих принципов.

Умные владельцы бизнеса и предприятия должны принять во внимание изучение этого билля, поскольку это может быть только выгодно для реализации этих политик как можно скорее.

Объяснимый ИИ будет продолжать доминировать в важности, как можно увидеть из этой цитаты из билля.

“На протяжении всего федерального правительства агентства проводят и поддерживают исследования по объяснимым системам ИИ. NIST проводит фундаментальные исследования по объяснимости систем ИИ. Мультидисциплинарная команда исследователей направлена на разработку методов измерения и лучших практик для поддержки реализации основных положений объяснимого ИИ. Агентство перспективных исследований и разработок в области обороны имеет программу по объяснимому искусственному интеллекту, целью которой является создание набора методов машинного обучения, которые производят более объяснимые модели, сохраняя при этом высокий уровень производительности (точность прогнозирования), и позволяют человеческим пользователям понимать, надлежащим образом доверять и эффективно управлять возникающим поколением искусственно интеллектуальных партнеров. Программа Национального научного фонда по справедливости в искусственном интеллекте также включает конкретный интерес к исследованиям основ объяснимого ИИ.”

Что не должно быть упущено из виду, так это то, что в конечном итоге принципы, изложенные здесь, станут новым стандартом.