Грейс Йи, старший директор по этике инноваций (Этика ИИ и доступность) в Adobe – Серия интервью

Грейс Йи является старшим директором по этике инноваций (Этика ИИ и доступность) в Adobe, где она руководит глобальной, организационной работой по этике и разрабатывает процессы, инструменты, обучение и другие ресурсы, чтобы обеспечить, чтобы инновации ИИ Adobe постоянно эволюционировали в соответствии с основными ценностями и этическими принципами Adobe. Грейс продвигает приверженность Adobe построению и использованию технологий ответственно, центрируя этику и инклюзивность во всей работе компании по разработке ИИ. В рамках этой работы Грейс курирует Комитет и совет по этике ИИ Adobe, который дает рекомендации, чтобы помочь руководить командами разработки Adobe и рассматривает новые функции и продукты ИИ, чтобы обеспечить, что они соответствуют принципам подотчетности, ответственности и прозрачности Adobe. Эти принципы помогают обеспечить, чтобы мы представляли функции, работающие на ИИ, на рынок, минимизируя вредные и предвзятые результаты. Грейс также работает с командой по политике, чтобы стимулировать защиту интересов и помогать формировать общественную политику, законы и регулирование в области ИИ для пользы общества.

В рамках приверженности Adobe доступности Грейс помогает обеспечить, чтобы продукты Adobe были инклюзивными и доступными для всех пользователей, чтобы любой мог создавать, взаимодействовать и участвовать в цифровых опытах. Под ее руководством Adobe работает с правительственными группами, торговыми ассоциациями и сообществами пользователей, чтобы продвигать и продвигать политику и стандарты доступности, стимулируя эффективные решения отрасли.

Можете ли вы рассказать нам об пути Adobe за последние пять лет в формировании этики ИИ? Какие ключевые вехи определили эту эволюцию, особенно в условиях быстрого развития, такого как генеративный ИИ?

Пять лет назад мы формализовали наш процесс этики ИИ, установив наши принципы этики ИИ – подотчетность, ответственность и прозрачность, которые служат основой для нашего процесса управления этикой ИИ. Мы собрали разнообразную, межфункциональную команду сотрудников Adobe из разных стран мира, чтобы разработать действенные принципы, которые могут выдержать испытание временем.

Оттуда мы разработали надежный процесс рассмотрения, чтобы выявить и смягчить потенциальные риски и предвзятости на ранней стадии цикла разработки ИИ. Этот многоступенчатый анализ помог нам выявить и решить проблемы с функциями и продуктами, которые могли бы увековечить вредные предвзятости и стереотипы.

Когда появился генеративный ИИ, мы адаптировали нашу оценку этики ИИ, чтобы решить новые этические проблемы. Этот итеративный процесс позволил нам оставаться впереди потенциальных проблем, обеспечивая, чтобы наши технологии ИИ разрабатывались и развертывались ответственно. Наша приверженность непрерывному обучению и сотрудничеству с различными командами по всей компании была крайне важна для поддержания актуальности и эффективности нашей программы этики ИИ, в конечном итоге улучшая опыт, который мы предоставляем нашим клиентам, и продвигая инклюзивность.

Как принципы этики ИИ Adobe – подотчетность, ответственность и прозрачность – переводятся в ежедневные операции? Можете ли вы поделиться примерами того, как эти принципы руководили проектами ИИ Adobe?

Мы придерживаемся обязательств Adobe по этике ИИ, реализуя надежные инженерные практики, которые обеспечивают ответственное инновации, а также непрерывно собирая обратную связь от наших сотрудников и клиентов, чтобы ermögнить необходимые корректировки.

Новые функции ИИ проходят тщательную оценку этики, чтобы выявить и смягчить потенциальные предвзятости и риски. Когда мы представили Adobe Firefly, нашу семью генеративных моделей ИИ, она прошла оценку, чтобы смягчить генерацию контента, который мог бы увековечить вредные стереотипы. Эта оценка является итеративным процессом, который эволюционирует на основе тесного сотрудничества с командами продукта, включающими обратную связь и уроки, чтобы оставаться актуальными и эффективными. Мы также проводим упражнения по обнаружению рисков с командами продукта, чтобы понять потенциальные последствия и разработать соответствующие механизмы тестирования и обратной связи.

Как Adobe решает проблемы, связанные с предвзятостью в ИИ, особенно в инструментах, используемых глобальной и разнообразной базой пользователей? Можете ли вы привести пример того, как предвзятость была выявлена и смягчена в конкретной функции ИИ?

Мы постоянно эволюционируем нашу оценку и процесс рассмотрения этики ИИ в тесном сотрудничестве с нашими командами продукта и инженерии. Оценка этики ИИ, которую мы имели несколько лет назад, отличается от той, которую мы имеем сейчас, и я ожидаю дополнительных сдвигов в будущем. Этот итеративный подход позволяет нам включать новые знания и решать возникающие этические проблемы, поскольку технологии, такие как Firefly, эволюционируют.

Например, когда мы добавили поддержку нескольких языков в Firefly, моя команда заметила, что она не давала желаемого результата, и некоторые слова были блокированы непреднамеренно. Чтобы смягчить это, мы тесно сотрудничали с нашей командой интернационализации и носителями языка, чтобы расширить наши модели и охватить страновые термины и коннотации.

Наша приверженность эволюции нашего подхода к оценке по мере развития технологий помогает Adobe сбалансировать инновации с этической ответственностью. Создавая инклюзивный и отзывчивый процесс, мы обеспечиваем, чтобы наши технологии ИИ соответствовали высшим стандартам прозрачности и целостности, наделяя создателей уверенностью в использовании наших инструментов.

С вашим участием в формировании общественной политики, как Adobe ориентируется на пересечении быстро меняющихся регулирований ИИ и инноваций? Какую роль играет Adobe в формировании этих регулирований?

Мы активно взаимодействуем с политиками и отраслевыми группами, чтобы помочь формировать политику, которая балансирует инновации с этическими соображениями. Наши обсуждения с политиками фокусируются на нашем подходе к ИИ и важности разработки технологий для улучшения человеческого опыта. Регуляторы ищут практические решения текущих проблем, и представляя рамки, такие как наши принципы этики ИИ, разработанные совместно и применяемые последовательно в наших функциях, работающих на ИИ, мы способствуем более продуктивным обсуждениям. Это крайне важно – представить конкретные примеры на стол, чтобы продемонстрировать, как наши принципы работают на практике, и показать реальное влияние, а не обсуждать абстрактные концепции.

Какие этические соображения Adobe отдает приоритет при сборе данных для обучения, и как она обеспечивает, чтобы наборы данных, используемые для ИИ, были как этичными, так и достаточно полными для потребностей ИИ?

В Adobe мы отдаем приоритет нескольким ключевым этическим соображениям при сборе данных для обучения наших моделей ИИ. В рамках наших усилий по разработке Firefly, чтобы она была коммерчески безопасной, мы обучили ее на наборе данных лицензированного контента, такого как Adobe Stock, и контента общественного достояния, где авторское право истекло. Мы также сосредоточились на разнообразии наборов данных, чтобы избежать укрепления вредных предвзятостей и стереотипов в выходных данных нашей модели. Чтобы достичь этого, мы сотрудничаем с разнообразными командами и экспертами, чтобы рассмотреть и курировать данные. Следуя этим практикам, мы стремимся создать технологии ИИ, которые не только мощные и эффективные, но и этичные и инклюзивные для всех пользователей.

На ваш взгляд, насколько важно прозрачность в общении с пользователями о том, как системы ИИ Adobe, такие как Firefly, обучаются и какие данные используются?

Прозрачность имеет решающее значение, когда речь идет о общении с пользователями о том, как функции ИИ Adobe, такие как Firefly, обучаются, включая типы используемых данных. Это строит доверие и уверенность в наших технологиях, обеспечивая, чтобы пользователи понимали процессы, лежащие в основе разработки нашего генеративного ИИ. Будучи открытыми о наших источниках данных, методах обучения и этических гарантиях, которые у нас есть, мы наделяем пользователей возможностью принимать обоснованные решения о том, как они взаимодействуют с нашими продуктами. Эта прозрачность не только соответствует нашим основным принципам этики ИИ, но и способствует сотрудническим отношениям с нашими пользователями.

Когда ИИ продолжает расти, особенно генеративный ИИ, какие, по вашему мнению, будут наиболее значительными этическими проблемами, с которыми компании, такие как Adobe, столкнутся в ближайшем будущем?

Я считаю, что наиболее значительными этическими проблемами для компаний, таких как Adobe, будут смягчение вредных предвзятостей, обеспечение инклюзивности и поддержание доверия пользователей. Потенциал ИИ для непреднамеренного увековечения стереотипов или генерации вредного и вводящего в заблуждение контента является проблемой, которая требует постоянного бдительного наблюдения и надежных гарантий. Например, с недавними достижениями в генеративном ИИ легче, чем когда-либо, для “плохих актеров” создавать обманчивый контент, распространять дезинформацию и манипулировать общественным мнением, подрывая доверие и прозрачность.

Чтобы решить эту проблему, Adobe основала инициативу по аутентичности контента (CAI) в 2019 году, чтобы построить более достоверную и прозрачную цифровую экосистему для потребителей. CAI реализует наше решение для построения доверия в Интернете – так называемые Удостоверения контента. Удостоверения контента включают “ингредиенты” или важную информацию, такую как имя создателя, дата создания изображения, инструменты, использованные для создания изображения, и любые редактирования, сделанные на пути. Это наделяет пользователей возможностью создать цифровую цепочку доверия и аутентичности.

Когда генеративный ИИ продолжает расти, будет еще более важно продвигать широкое внедрение Удостоверений контента, чтобы восстановить доверие к цифровому контенту.

Какой совет вы дадите другим организациям, которые только начинают думать об этических рамках для разработки ИИ?

Мой совет был бы начать с установления четких, простых и практических принципов, которые могут руководить вашими усилиями. Часто я вижу компании или организации, сосредоточенные на том, что выглядит хорошо в теории, но их принципы не практичны. Причина, по которой наши принципы выдержали испытание временем, заключается в том, что мы разработали их, чтобы они были действенными. Когда мы оцениваем наши функции, работающие на ИИ, наши команды продукта и инженерии знают, на что мы ориентированы, и какие стандарты мы ожидаем от них.

Я бы также рекомендовал организациям подойти к этому процессу, зная, что он будет итеративным. Я, возможно, не знаю, что Adobe изобретет через пять или десять лет, но я знаю, что мы будем эволюционировать нашу оценку, чтобы удовлетворить эти инновации и обратную связь, которую мы получаем.

Спасибо за отличный интервью, читатели, которые хотят узнать больше, должны посетить Adobe.