Паола Зени, Главный офицер по защите конфиденциальности в RingCentral – Интервью

Паола Зени является Главным офицером по защите конфиденциальности в RingCentral (RNG ). Она является международным юристом по защите конфиденциальности с более чем 20-летним опытом в области защиты конфиденциальности и ветераном отрасли кибербезопасности, работавшим в Symantec и в Palo Alto Networks (PANW ), где она создала программу защиты конфиденциальности с нуля.

Что вдохновило вас на карьеру в области защиты конфиденциальности данных?

В конце 1990-х годов, когда государства-члены ЕС реализовывали Директиву ЕС о защите данных 1995 года, защита конфиденциальности данных начала набирать важность в Европе. Как юрист по технологиям, работавший с технологическими компаниями, такими как HP и Agilent Technologies (A ), я считал эту тему актуальной и начал внимательно изучать требования к защите конфиденциальности. Я быстро понял, что это область, в которой я хочу работать, не только потому, что я считаю ее юридически интересной и сложной, но и потому, что это вопрос, который затрагивает многие команды и процессы во всей организации. Участие в защите конфиденциальности данных означает работу с различными группами и лицами и изучение множества аспектов бизнеса. Влияние на важный вопрос и стимулирование изменений во многих функциях организации, а также следование за бурно развивающейся юридической областью, было чрезвычайно полезным. Работа в области защиты конфиденциальности данных сегодня более интересна, чем когда-либо, учитывая технологические достижения и возросшую юридическую сложность на глобальном уровне.

Когда вы впервые присоединились к RingCentral, вы создали Центр доверия, что это конкретно?

В RingCentral мы считаем, что предоставление нашим клиентам и партнерам информации о конфиденциальности и безопасности их данных имеет важное значение для построения и поддержания доверия к нашим услугам. Для этого мы создаем сопутствующие материалы и ресурсы, такие как описания конфиденциальности продуктов для наших основных предложений, белые бумаги и руководства по соблюдению требований, и размещаем их на нашем публичном Центре доверия. Недавно мы добавили нашу Белую бумагу о прозрачности ИИ. Центр доверия является важным компонентом нашего обязательства по прозрачности с ключевыми заинтересованными сторонами.

Как RingCentral обеспечивает интеграцию принципов защиты конфиденциальности во все продукты и услуги, основанные на ИИ?

Искусственный интеллект может дать бизнесу возможность раскрыть новый потенциал и быстро извлечь полезную информацию и идеи из своих данных, но с этими преимуществами приходит ответственность. В RingCentral мы остаемся непоколебимыми в нашей приверженности защите клиентов и их данных. Мы достигаем этого посредством наших столпов защиты конфиденциальности, которые руководят нашими практиками разработки продуктов

Защита конфиденциальности по умолчанию: Мы используем наш подход к защите конфиденциальности по умолчанию, работая в тесном сотрудничестве с юристами по продуктам, менеджерами по продуктам и инженерами по продуктам, чтобы внедрить принципы и требования защиты конфиденциальности во все аспекты наших продуктов и услуг, которые реализуют ИИ. Оценки защиты конфиденциальности интегрированы в жизненный цикл разработки продукта, от идеи до развертывания, и мы строим на этом, чтобы провести обзоры и рекомендации по ИИ.

Прозрачность: Мы предоставляем нашим клиентам, партнерам и пользователям информацию о том, как мы собираем и используем их данные, как часть нашего обязательства по прозрачности и построению доверия к нашим услугам.

Контроль клиентов: Мы предоставляем нашим клиентам варианты, которые позволяют им поддерживать контроль над тем, как они хотят, чтобы наш ИИ взаимодействовал с их данными.

Можете ли вы предоставить примеры конкретных мер по защите конфиденциальности, встроенных в решения RingCentral по коммуникациям на основе ИИ?

Прежде всего, мы добавили в наши описания продуктов информацию о том, как мы собираем и обрабатываем данные: кто их хранит, какие третьи стороны имеют к ним доступ и т. д. в наших описаниях конфиденциальности продуктов, которые размещены на нашем Центре доверия. Мы конкретно указываем, какие данные служат входными данными для ИИ, а какие данные генерируются в качестве выходных данных ИИ. Кроме того, в рамках наших обзоров продуктов в сотрудничестве с юристами по продуктам мы реализуем раскрытия информации, чтобы выполнить наше обязательство по прозрачности, и предоставляем нашим клиентам администраторам варианты контроля обмена данными с ИИ.

Почему важно для организаций поддерживать полную прозрачность о сборе и использовании данных в эпоху ИИ?

Чтобы способствовать принятию доверенного ИИ, важно для организаций установить доверие к тому, как ИИ обрабатывает данные и к точности выходных данных. Это распространяется на данные, на которых обучен ИИ, логику, примененную алгоритмом, и характер выходных данных.

Мы считаем, что когда поставщики являются прозрачными и делятся информацией о своем ИИ, о том, как он работает и для чего используется, клиенты могут принимать обоснованные решения и имеют возможность предоставить более конкретные раскрытия информации своим пользователям, тем самым улучшая принятие ИИ и доверие. Когда мы разрабатываем и предоставляем ИИ, мы думаем обо всех заинтересованных сторонах: наших клиентах, но также их сотрудниках, партнерах и клиентах.

Какие шаги могут предпринять организации, чтобы обеспечить соблюдение их поставщиками строгих политик использования ИИ?

В RingCentral мы считаем, что развертывание ИИ требует доверия между нами и нашими поставщиками. Поставщики должны обязаться внедрить защиту конфиденциальности и безопасность данных в архитектуру своих продуктов. Для этого мы построили на нашем существующем процессе проверки поставщиков, добавив конкретный обзор ИИ, и реализовали стандарт для использования ИИ третьих сторон, с конкретными требованиями для защиты RingCentral и наших клиентов.

Какие стратегии использует RingCentral, чтобы обеспечить точность и беспристрастность данных, используемых в системах ИИ?

С справедливостью как руководящим принципом, мы постоянно рассматриваем влияние нашего ИИ и остаемся приверженными поддержанию осведомленности о потенциальных предубеждениях и рисках, с механизмами для выявления и смягчения любых непредвиденных последствий.

• Мы приняли конкретную структуру для выявления и предотвращения предубеждений в рамках нашей рамки развития этического ИИ, которую мы применяем ко всем нашим обзорам продуктов.
• Наши случаи использования ИИ включают человека в цикл для оценки выходных данных наших систем ИИ. Например, в наших умных заметках, даже без мониторинга содержания заметок, мы можем сделать вывод о том, были ли заметки точными или нет. Если пользователь постоянно редактирует заметки, это отправляет сигнал RingCentral, чтобы скорректировать подсказки.
• Как другой пример человека в цикле, наш процесс генерации, дополненный извлечением, позволяет выходным данным быть строго сосредоточенными на конкретных базах знаний и предоставляет ссылки на источники, сгенерированные выходные данные. Это позволяет человеку проверить ответ и глубже изучить ссылки самих себя.

Обеспечивая точность нашего ИИ, мы подтверждаем свое обещание предоставить объяснимый и прозрачный ИИ.

Какие проблемы с защитой конфиденциальности возникают с ИИ при крупномасштабных корпоративных развертываниях, и как они решаются?

Прежде всего важно помнить, что существующие законы о защите данных содержат положения, применимые к искусственному интеллекту. Когда законы технологически нейтральны, правовые рамки и этические ориентиры применяются к новым технологиям. Следовательно, организации должны обеспечить, чтобы их использование ИИ соответствовало существующим законам о защите данных, таким как GDPR и CPRA.

Во-вторых, ответственность специалистов по защите конфиденциальности заключается в том, чтобы отслеживать новые и возникающие законы об ИИ, которые различаются от штата к штату и от страны к стране. Законы об ИИ решают многочисленные аспекты ИИ, но одним из главных приоритетов новых правил ИИ является защита основных прав человека, включая защиту конфиденциальности.

Критические факторы успеха в решении проблем защиты конфиденциальности заключаются в прозрачности перед пользователями, особенно когда ИИ выполняет профилирование или принимает автоматические решения, влияющие на отдельных лиц, и позволяет пользователям выбирать, чтобы отказаться от использования ИИ, если они не чувствуют себя комфортно.

Какие будущие тенденции вы видите в ИИ и защите конфиденциальности данных, и как RingCentral готовится оставаться впереди?

Основные тенденции – это новые законы, которые будут продолжать вступать в силу, растущие требования пользователей к прозрачности и контролю, возрастающая необходимость управления рисками, связанными с ИИ, включая риски третьих сторон, и рост киберрисков в ИИ.

Компаниям необходимо создать прочное управление и команды должны сотрудничать между функциями, чтобы обеспечить внутреннюю согласованность, минимизировать риски и укрепить доверие пользователей. В RingCentral наше непрерывное обязательство по защите конфиденциальности, безопасности и прозрачности остается беспрецедентным. Мы серьезно относимся к этим вопросам. Через наше управление ИИ и наши столпы защиты конфиденциальности RingCentral привержена этическому ИИ.

Спасибо за отличное интервью, читателям, которые хотят узнать больше, следует посетить RingCentral.