Что означает Белый домский законопроект о правах ИИ для Америки и остального мира

Офис научно-технической политики Белого дома (OSTP) недавно опубликовал белую книгу под названием “Проект закона о правах ИИ: Создание автоматизированных систем, работающих на благо американского народа”. Этот каркас был выпущен через год после того, как OSTP объявил о запуске процесса разработки “закона о правах для мира, управляемого ИИ”.

Предисловие к этому законопроекту четко показывает, что Белый дом понимает имминентные угрозы обществу, исходящие от ИИ. Вот что говорится в предисловии:

“Среди великих проблем, с которыми сталкивается демократия сегодня, является использование технологий, данных и автоматизированных систем способами, которые угрожают правам американской общественности. Слишком часто эти инструменты используются для ограничения наших возможностей и предотвращения нашего доступа к критически важным ресурсам или услугам. Эти проблемы хорошо документированы. В Америке и во всем мире системы, которые должны были помочь в уходе за пациентами, оказались небезопасными, неэффективными или предвзятыми. Алгоритмы, используемые при приеме на работу и принятии кредитных решений, были признаны отражающими и воспроизводящими существующие нежелательные неравенства или внедряющими новые вредные предубеждения и дискриминацию. Неограниченное сбор данных в социальных сетях был использован для угроз людям, подрыва их конфиденциальности или всестороннего отслеживания их деятельности – часто без их ведома или согласия.”

Что этот законопроект о правах и предложенная им структура будут означать для будущего ИИ, остается быть увиденным. То, что мы знаем, это то, что новые разработки появляются с экспоненциально возрастающей скоростью. То, что когда-то считалось невозможным, мгновенный перевод языка, теперь является реальностью, и в то же время мы имеем революцию в понимании естественного языка (NLU), возглавляемую OpenAI и их знаменитой платформой GPT-3.

С тех пор мы увидели мгновенное создание изображений с помощью техники, называемой Стабильным распространением, которая может вскоре стать массовым потребительским продуктом. По сути, с помощью этой технологии пользователь может просто ввести любой запрос, который он может представить, и, как по волшебству, ИИ создаст изображение, соответствующее запросу.

Когда мы учитываем экспоненциальный рост и закон ускоряющихся возвращений, скоро наступит время, когда ИИ возьмет под контроль каждый аспект повседневной жизни. Люди и компании, которые знают об этом и используют этот сдвиг парадигмы, получат прибыль. К сожалению, значительная часть общества может стать жертвой как намеренных, так и непредвиденных последствий ИИ.

Законопроект о правах ИИ предназначен для поддержки разработки политик и практик, которые защищают гражданские права и продвигают демократические ценности при создании, развертывании и управлении автоматизированными системами. Как этот законопроект будет сравниваться с подходом Китая, остается быть увиденным, но это законопроект, который имеет потенциал изменить ландшафт ИИ, и он, вероятно, будет принят союзниками, такими как Австралия, Канада и ЕС.

Однако следует отметить, что законопроект о правах ИИ не является обязательным и не представляет собой политику правительства США. Он не отменяет, изменяет или толкует существующие законы, правила, политики или международные инструменты. Это означает, что предприятиям и правительствам придется следовать политикам, изложенным в этой белой книге.

Этот законопроект определил пять принципов, которые должны руководить проектированием, использованием и развертыванием автоматизированных систем для защиты американской общественности в эпоху искусственного интеллекта, ниже мы изложим 5 принципов:

1. Безопасные и эффективные системы

Существует явная и настоящая опасность для общества, исходящая от злоупотребления системами ИИ, особенно тех, которые полагаются на глубокое обучение. Это попытка решить эти проблемы с помощью этих принципов:

“Вы должны быть защищены от небезопасных или неэффективных систем. Автоматизированные системы должны разрабатываться с учетом мнений различных сообществ, заинтересованных сторон и экспертов для выявления проблем, рисков и потенциальных последствий системы. Системы должны пройти предварительное тестирование, выявление и смягчение рисков, а также постоянный мониторинг, который демонстрирует, что они безопасны и эффективны на основе их предполагаемого использования, смягчения небезопасных результатов, включая те, которые выходят за рамки предполагаемого использования, и соблюдения отраслевых стандартов. Результаты этих защитных мер должны включать возможность не развертывать систему или удалять ее из использования. Автоматизированные системы не должны разрабатываться с намерением или разумно предсказуемой возможностью подвергать опасности вашу безопасность или безопасность вашего сообщества. Они должны быть разработаны для активной защиты вас от вреда, исходящего от непредвиденных, но предсказуемых, использований или последствий автоматизированных систем. Вы должны быть защищены от неуместного или нерелевантного использования данных при проектировании, разработке и развертывании автоматизированных систем, а также от накопленного вреда от их повторного использования. Независимая оценка и отчетность, подтверждающие, что система безопасна и эффективна, включая информацию о мерах, принятых для смягчения потенциальных вредов, должны проводиться и результаты должны быть обнародованы, когда это возможно.”

2. Защита от дискриминации алгоритмов

Эти политики решают некоторые из основных проблем, связанных с злоупотреблением предприятиями в отношении отдельных лиц.

Распространенная проблема при приеме на работу с помощью систем ИИ заключается в том, что система глубокого обучения часто тренируется на предвзятых данных для принятия решений о приеме на работу. Это фактически означает, что плохие практики приема на работу в прошлом приведут к дискриминации по гендеру или расе со стороны агента по найму. Одно исследование показало трудность попытки удалить гендер из тренировочных данных.

Другой основной проблемой с предвзятыми данными со стороны правительств является риск неправильного заключения под стражу, или даже хуже алгоритмы прогнозирования преступности, которые предлагают более длительные сроки заключения под стражу для меньшинств.

“Вы не должны столкнуться с дискриминацией алгоритмов, и системы должны использоваться и разрабатываться справедливым образом. Дискриминация алгоритмов происходит, когда автоматизированные системы способствуют несправедливому обращению или последствиям, неблагоприятным для людей на основе их расы, цвета, этнической принадлежности, пола (включая беременность, роды и связанные с ними медицинские условия, гендерную идентичность, интерсексуальный статус и сексуальную ориентацию), религии, возраста, национального происхождения, инвалидности, статуса ветерана, генетической информации или любой другой классификации, защищенной законом. В зависимости от конкретных обстоятельств, такая дискриминация алгоритмов может нарушать юридические защиты. Разработчики, производители и эксплуатанты автоматизированных систем должны принимать активные и постоянные меры для защиты людей и сообществ от дискриминации алгоритмов и для использования и разработки систем справедливым образом. Эта защита должна включать активные оценки справедливости в рамках проектирования системы, использование представительных данных и защиту от прокси для демографических особенностей, обеспечение доступности для людей с ограниченными возможностями при проектировании и разработке, тестирование на расхождения и смягчение до развертывания и постоянное тестирование и смягчение, а также четкий организационный надзор. Независимая оценка и отчетность в форме оценки воздействия алгоритмов, включая результаты тестирования на расхождения и смягчение, должны проводиться и обнародоваться, когда это возможно, для подтверждения этих защит.”

3. Защита данных

Этот принцип защиты данных, вероятно, наиболее повлияет на самую большую часть населения. Первая половина принципа, по-видимому, касается сбора данных, особенно данных, собранных через Интернет, известной проблемы, особенно для платформ социальных сетей. Эти же данные могут быть использованы для продажи рекламы или, что еще хуже, для манипулирования общественным мнением и влияния на выборы.

“Вы должны быть защищены от злоупотребления данными посредством встроенных защит и у вас должна быть возможность контролировать, как данные о вас используются. Вы должны быть защищены от нарушений конфиденциальности посредством выбора дизайна, который обеспечивает такие защиты, включая обеспечение того, что сбор данных соответствует разумным ожиданиям, и что собираются только данные, строго необходимые для конкретного контекста. Разработчики, производители и эксплуатанты автоматизированных систем должны искать ваше разрешение и уважать ваши решения относительно сбора, использования, доступа, передачи и удаления ваших данных в подходящих способах и в наибольшей степени, возможной; когда это не возможно, должны использоваться альтернативные меры защиты конфиденциальности. Системы не должны использовать решения по дизайну и опыту пользователя, которые затрудняют выбор пользователя или обременяют пользователей настройками по умолчанию, которые нарушают конфиденциальность. Согласие должно использоваться только для оправдания сбора данных в случаях, когда оно может быть надлежащим образом и осознанно дано. Любые запросы на согласие должны быть краткими, понятными на простом языке и давать вам возможность контролировать сбор данных и конкретный контекст использования; текущие практики уведомления и выбора для широкого использования данных должны быть изменены.”

Вторая половина принципа защиты данных, по-видимому, касается наблюдения как со стороны правительств, так и со стороны предприятий.

В настоящее время предприятия могут отслеживать и шпионить за сотрудниками, в некоторых случаях это может быть для улучшения безопасности на рабочем месте, во время пандемии COVID-19 это было для обеспечения ношения масок, чаще всего это просто делается для того, чтобы отслеживать, как используется время на работе. Во многих из этих случаев сотрудники чувствуют, что они отслеживаются и контролируются за пределами того, что считается приемлемым.

“Усиленные защиты и ограничения для данных и выводов, связанных с чувствительными областями, включая здравоохранение, работу, образование, уголовное правосудие и финансы, и для данных, относящихся к молодежи, должны ставить вас на первое место. В чувствительных областях ваши данные и связанные с ними выводы должны использоваться только для необходимых функций, и вы должны быть защищены этическим обзором и запретами на использование. Вы и ваши сообщества должны быть свободны от неограниченного наблюдения; технологии наблюдения должны подвергаться усиленному надзору, который включает в себя как минимум предварительную оценку их потенциального вреда и ограничения объема для защиты конфиденциальности и гражданских свобод. Постоянное наблюдение и отслеживание не должны использоваться в образовании, на работе, в жилищной сфере или в других контекстах, где использование таких технологий наблюдения может ограничить права, возможности или доступ. Когда это возможно, у вас должна быть возможность получить доступ к отчетам, подтверждающим, что ваши решения о данных были уважены и предоставляющим оценку потенциального воздействия технологий наблюдения на ваши права, возможности или доступ.”

Следует отметить, что ИИ может быть использован для защиты конфиденциальности людей.

4. Уведомление и объяснение

Это должно быть призывом к действию для предприятий развернуть совет по этике ИИ, а также ускорить разработку объяснимого ИИ. Объяснимый ИИ необходим в случае, если модель ИИ совершает ошибку, понимание того, как работает ИИ, позволяет легко диагностировать проблему.

Объяснимый ИИ также позволит прозрачному обмену информацией о том, как используются данные, и почему ИИ принял определенное решение. Без объяснимого ИИ невозможно будет соблюдать эти политики из-за проблемы черного ящика глубокого обучения.

Предприятия, которые сосредотачиваются на улучшении этих систем, также получат положительные выгоды от понимания нюансов и сложностей, стоящих за тем, почему алгоритм глубокого обучения принял определенное решение.

“Вы должны знать, что автоматизированная система используется и понимать, как и почему она способствует результатам, которые влияют на вас. Разработчики, производители и эксплуатанты автоматизированных систем должны предоставлять общедоступную документацию на простом языке, включая четкие описания общей работы системы и роли автоматизации, уведомление о том, что такая система используется, лицо или организацию, ответственные за систему, и объяснения результатов, которые являются ясными, своевременными и доступными. Такое уведомление должно быть актуальным, и люди, затронутые системой, должны быть уведомлены о значительных изменениях в использовании или ключевой функциональности. Вы должны знать, как и почему результат, влияющий на вас, был определен автоматизированной системой, включая случаи, когда автоматизированная система не является единственным входом, определяющим результат. Автоматизированные системы должны предоставлять объяснения, которые являются технически действительными, осмысленными и полезными для вас, а также для любых операторов или других, кто должен понимать систему, и откалиброванными к уровню риска на основе содержания. Отчетность, включающая сводную информацию об этих автоматизированных системах на простом языке и оценку ясности и качества уведомления и объяснений, должна быть обнародована, когда это возможно.”

5. Человеческие альтернативы, рассмотрение и резерв

В отличие от большинства вышеперечисленных принципов, этот принцип наиболее применим к государственным органам или приватизированным учреждениям, которые работают от имени государства.

Даже с советом по этике ИИ и объяснимым ИИ важно полагаться на человеческий обзор, когда на кону жизни. Всегда существует потенциал для ошибки, и наличие человека, который просматривает дело по запросу, могло бы, возможно, избежать сценария, такого как ИИ, отправляющий неправильных людей в тюрьму.

Судебная и уголовная системы имеют наиболее возможность причинить непоправимый вред маргинализированным членам общества и должны обратить особое внимание на этот принцип.

“Вы должны иметь возможность отказаться, когда это уместно, и иметь доступ к человеку, который может быстро рассмотреть и устранить проблемы, с которыми вы столкнулись. Вы должны иметь возможность отказаться от автоматизированных систем в пользу человеческой альтернативы, когда это уместно. Уместность должна определяться на основе разумных ожиданий в данном контексте и с фокусом на обеспечении широкой доступности и защиты общества от особенно вредных последствий. В некоторых случаях может потребоваться человеческая или другая альтернатива по закону. У вас должна быть возможность получить доступ к своевременному человеческому рассмотрению и устранению проблемы, если автоматизированная система не сработала, она допустила ошибку, или вы хотите обжаловать или оспорить ее влияние на вас. Человеческое рассмотрение и резерв должны быть доступными, справедливыми, эффективными, поддерживаемыми, сопровождаемыми соответствующей подготовкой операторов, и не должны налагать непомерную нагрузку на общественность. Автоматизированные системы с предполагаемым использованием в чувствительных областях, включая, но не ограничиваясь, уголовную систему, занятость, образование и здравоохранение, должны быть адаптированы к цели, обеспечивать значимый доступ к надзору, включать подготовку для любых людей, взаимодействующих с системой, и включать человеческое рассмотрение для неблагоприятных или высокорисковых решений. Отчетность, включающая описание этих человеческих процессов управления и оценку их своевременности, доступности, результатов и эффективности, должна быть обнародована, когда это возможно.”

Резюме

OSTP следует отдать должное за попытку ввести каркас, который соединяет протоколы безопасности, необходимые для общества, без введения драконовских политик, которые могли бы помешать прогрессу в разработке машинного обучения.

После того, как принципы изложены, законопроект продолжает предоставлять технического компаньона к обсуждаемым вопросам, а также подробную информацию о каждом принципе и лучших способах его реализации.

Грамотные владельцы бизнеса и предприятия должны обратить внимание на изучение этого законопроекта, поскольку его реализация может быть только выгодной.

Объяснимый ИИ будет продолжать доминировать в важности, как можно увидеть из этой цитаты из законопроекта.

“На протяжении всего федерального правительства агентства проводят и поддерживают исследования по объяснимым системам ИИ. NIST проводит фундаментальные исследования по объяснимости систем ИИ. Мультидисциплинарная команда исследователей направлена на разработку методов измерения и лучших практик для поддержки реализации основных положений объяснимого ИИ. Агентство перспективных исследований и разработок в области обороны имеет программу по объяснимому искусственному интеллекту, целью которой является создание набора методов машинного обучения, которые производят более объяснимые модели, сохраняя при этом высокий уровень производительности обучения (точность прогнозирования), и позволяют человеческим пользователям понимать, доверять и эффективно управлять возникающим поколением искусственно интеллектуальных партнеров. Программа Национального научного фонда по справедливости в ИИ также включает конкретный интерес к исследованиям фундаментов для объяснимого ИИ.”

Не следует упускать из виду, что в конечном итоге принципы, изложенные здесь, станут новым стандартом.