Брэдфорд Ньюман, председатель практики по торговым секретам в Северной Америке – Интервью

Брэдфорд специализируется на вопросах, связанных с торговыми секретами и искусственным интеллектом. Он является председателем подкомитета по искусственному интеллекту Американской ассоциации юристов. Признан Daily Journal (DJCO ) в 2019 году как один из лучших 20 юристов по искусственному интеллекту в Калифорнии, Брэдфорд сыграл ключевую роль в предложении федерального законодательства о защите интеллектуальной собственности и искусственного интеллекта на рабочем месте, которое в 2018 году было превращено в проект обсуждения в Палате представителей США. Он также разработал лучшие практики надзора за искусственным интеллектом и корпоративного управления, предназначенные для обеспечения справедливости алгоритмов.

Что первоначально вызвало ваш интерес к искусственному интеллекту?

Я представлял интересы ведущих инноваторов и производителей продуктов и технологий искусственного интеллекта на протяжении многих лет. Мой интерес всегда был в том, чтобы понять правовые и технические аспекты машинного обучения и наблюдать за эволюцией искусственного интеллекта. Меня fascinует то, что возможно в различных областях.

Вы являетесь ярым сторонником рационального регулирования искусственного интеллекта, особенно в регулировании, защищающем общественное здоровье. Можете ли вы обсудить некоторые из ваших основных проблем?

Я считаю, что мы находимся на ранней стадии одной из наиболее глубоких революций, которые пережила человечество. Искусственный интеллект имеет потенциал повлиять на каждый аспект нашей жизни, от момента пробуждения до момента сна – и даже во время сна. Многие применения искусственного интеллекта будут положительно влиять на качество нашей жизни и, вероятно, на нашу продолжительность жизни как вида.

В настоящее время, с точки зрения информатики и машинного обучения, люди все еще активно участвуют в процессе, от кодирования алгоритмов до понимания обучающих наборов данных, обработки результатов, распознавания недостатков и продвижения технологии.

Но мы находимся в гонке против времени на двух основных фронтах. Во-первых, это так называемая “черная коробка”: участие и понимание человека будут уменьшаться с течением времени, поскольку искусственный интеллект будет развиваться. Во-вторых, использование искусственного интеллекта правительствами и частными интересами будет увеличиваться.

Моя проблема заключается в том, что искусственный интеллект будет использоваться как намеренно, так и непреднамеренно, в способах, которые противоречат идеалам западной демократии об индивидуальной свободе и свободе.

Как мы можем решить эти проблемы?

Общество достигло точки, где мы должны решить не то, что возможно с искусственным интеллектом, а что должно быть запрещено или частично ограничено.

Во-первых, мы должны конкретно определить решения, которые никогда не могут быть приняты полностью или частично алгоритмическим выводом, сгенерированным искусственным интеллектом. Это означает, что даже в ситуациях, когда каждый эксперт согласен, что данные на входе и выходе полностью не предвзяты, прозрачны и точны, должна быть законодательная запрет на использование его для любого типа прогностического или существенного принятия решений.

Признано, что это противоречит интуиции в мире, где мы стремимся к математической определенности, но установление “зоны, запрещенной для полетов” искусственного интеллекта является необходимым для сохранения свобод, которые мы все ценим и которые служат основой нашего общества.

Во-вторых, для других выявленных решений на основе аналитики искусственного интеллекта, которые не полностью запрещены, нам нужны законодательные акты, которые четко определяют те, где человек должен быть вовлечен в процесс принятия решений.

Вы сыграли ключевую роль в предложении федерального законодательства об искусственном интеллекте на рабочем месте и интеллектуальной собственности, которое в 2018 году было превращено в проект обсуждения в Палате представителей США. Можете ли вы обсудить некоторые из этих предложений?

Закон об охране данных искусственного интеллекта предназначен для содействия инновациям и предназначен для (1) повышения прозрачности в природе и использовании искусственного интеллекта и для построения общественного доверия к искусственному интеллекту; (2) решения проблемы влияния искусственного интеллекта на рынок труда и (3) защиты общественного здоровья и безопасности.

У него есть несколько ключевых компонентов. Например, он запрещает компаниям, подлежащим регулированию, полагаться исключительно на искусственный интеллект для принятия определенных решений, включая решение о трудоустройстве или ограничении медицинского лечения, и запрещает страховым компаниям принимать решения о покрытии медицинского лечения исключительно на основе аналитики искусственного интеллекта. Он также устанавливает Совет по искусственному интеллекту – новый федеральный орган, ответственный за регулирование искусственного интеллекта в отношении общественного здоровья и безопасности. И он требует от компаний, подлежащих регулированию, назначить офицера по искусственному интеллекту.

Вы также разработали лучшие практики надзора за искусственным интеллектом и корпоративного управления, предназначенные для обеспечения справедливости алгоритмов. Какие из них являются текущими проблемами, связанными с справедливостью или предвзятостью в системах искусственного интеллекта?

Эта тема была предметом интенсивного изучения со стороны ученых и теперь привлекает внимание государственных агентств США, таких как Комиссия по равным возможностям трудоустройства, и истцов. Большинство проблем возникают из-за дефектов в обучающих наборах данных или недостаточного понимания и прозрачности тестовой среды. Это усугубляется отсутствием централизованной собственности и надзора за искусственным интеллектом со стороны руководства.

Это отсутствие технического понимания и осведомленности является значительной проблемой ответственности. Я говорил с несколькими известными истцами, которые ищут дела о предвзятости искусственного интеллекта.

Глубокое обучение часто страдает от проблемы “черной коробки”, когда мы вводим данные в искусственную нейронную сеть, и затем получаем вывод, не зная, как он был сгенерирован. Считаете ли вы, что это является серьезной проблемой?

Да. И когда алгоритмы и нейронные сети продолжают развиваться, и люди все больше не “в цикле”, существует реальный риск перехода точки, после которой мы больше не сможем понять критические элементы функционирования и вывода.

С COVID-19 страны всего мира ввели системы государственного надзора, основанные на искусственном интеллекте. Насколько серьезной проблемой является потенциальное злоупотребление этим типом надзора?

Это наивно и, честно говоря, безответственно с точки зрения индивидуальных прав и свобод, игнорировать или преуменьшать риск злоупотребления. Хотя отслеживание контактов кажется разумным в условиях глобальной пандемии, и система распознавания лиц на основе искусственного интеллекта обеспечивает эффективную меру для того, что люди не смогли бы сделать в одиночку, общество должно установить законодательные запреты на злоупотребление и эффективные механизмы надзора и принудительного исполнения. В противном случае мы передаем государству основной элемент наших индивидуальных фундаментальных прав. Как только мы отдали это в целом, этот основной элемент нашей свободы и конфиденциальности не будет возвращен.

Вы ранее заявили, что “Мы должны установить зону, запрещенную для полета, если мы хотим сохранить свободы, которые американцы все ценят и которые служат основой нашего общества.” Можете ли вы поделиться некоторыми из этих проблем?

Когда мы обсуждаем искусственный интеллект, мы должны всегда сосредотачиваться на его основной цели: производить точную прогностическую аналитику из очень больших наборов данных, которые затем используются для классификации людей и принятия решений. Далее мы должны изучить, кто являются лицами, принимающими решения, что они решают и на чем они основывают свои решения.

Если мы понимаем, что лицами, принимающими решения, являются те, кто имеет наибольшее влияние на наше здоровье, средства к существованию и свободы – работодатели, арендодатели, врачи, страховщики, правоохранительные органы и каждое другое частное, коммерческое и государственное предприятие, которое может генерировать, собирать или покупать аналитику искусственного интеллекта, – становится легко понять, что в западной либеральной демократии, в отличие от тоталитарного режима, должны быть решения, которые не должны и не могут быть оставлены исключительно на искусственный интеллект.

Хотя многие очевидные решения приходят на ум, такие как запрет на заключение под стражу до совершения преступления, широкое внедрение искусственного интеллекта во все аспекты нашей жизни представляет намного более сложные примеры этических дилемм. Например, если алгоритм точно предсказывает, что работники, которые публикуют фотографии на социальных сетях о пляжных отпусках, где они пьют алкоголь, увольняются или увольняются с работы в среднем на 3,5 года раньше, чем те, кто публикует фотографии о занятиях спортом, должны ли они быть лишены повышения или повышения зарплаты исключительно на основе алгоритмического вывода? Если алгоритм правильно определяет, что подростки, которые играют в видеоигры более 2 часов в день, с меньшей вероятностью закончат четырехлетний университет, должны ли такие студенты быть лишены поступления? Если азиатские женщины в возрасте 60 лет, госпитализированные в отделение интенсивной терапии с симптомами, связанными с COVID-19, имеют более высокий уровень выживаемости, чем афроамериканские мужчины в возрасте 70 лет, должны ли женщины получать приоритетное медицинское лечение?

Эти упрощенные примеры являются лишь несколькими из многих решений, где полагание исключительно на искусственный интеллект противоречит нашим представлениям о том, что требуют индивидуальные права человека.

Есть ли что-то еще, что вы хотели бы поделиться относительно искусственного интеллекта или Baker McKenzie?

Я非常 рад помочь возглавить истинно международную практику искусственного интеллекта Baker McKenzie на эволюционирующем ландшафте. Мы признаем, что наши клиенты жаждут руководства по всем вопросам, связанным с искусственным интеллектом, от переговоров по контрактам до установления внутреннего надзора, избежания претензий по предвзятости, понимания возникающего внутреннего и международного регулирования.

Компании хотят сделать правильный выбор, но есть очень мало юридических фирм, которые имеют необходимую экспертизу и понимание искусственного интеллекта и машинного обучения, чтобы быть в состоянии помочь им. Для тех из нас, кто одновременно увлечен искусственным интеллектом и является юристом, это интересное время, чтобы добавить реальную ценность для наших клиентов.

Спасибо за фантастические ответы относительно некоторых из этих основных социальных проблем, связанных с искусственным интеллектом. Читателям, которые хотят узнать больше о Брэдфорде Ньюмане, можно перейти по ссылке.