Паола Зени, Главный офицер по защите конфиденциальности в RingCentral – Серия интервью

Паола Зени является Главным офицером по защите конфиденциальности в RingCentral. Она является международным юристом по защите конфиденциальности с более чем 20-летним опытом в области защиты конфиденциальности и ветераном отрасли кибербезопасности, работавшим в Symantec и в Palo Alto Networks, где она создала программу защиты конфиденциальности с нуля.

Что вдохновило вас на карьеру в области защиты данных?

В конце 1990-х годов, когда государства-члены ЕС реализовывали Директиву ЕС о защите данных 1995 года, защита конфиденциальности начала появляться в Европе как важная проблема. Как юрист по технологиям, работающий с технологическими компаниями, такими как HP и Agilent Technologies, я считал эту тему актуальной и начал внимательно следить за требованиями к защите конфиденциальности. Я быстро понял, что это область, в которой я хотел бы участвовать, не только потому, что я нашел ее юридически интересной и сложной, но и потому, что это проблема, которая затрагивает многие команды и процессы во всей организации. Участие в защите конфиденциальности означает работу с различными группами и лицами и изучение множества аспектов бизнеса. Возможность влиять и стимулировать изменения по важному вопросу во многих функциях организации, следуя за бурно развивающейся юридической областью, была чрезвычайно полезной. Работа в области защиты данных сегодня более интересна, чем когда-либо, учитывая технологические разработки и возросшую юридическую сложность на глобальном уровне.

Когда вы впервые присоединились к RingCentral, вы создали Центр доверия, что это конкретно?

В RingCentral мы считаем, что предоставление нашим клиентам и партнерам информации о конфиденциальности и безопасности их данных имеет важное значение для построения и поддержания доверия к нашим услугам. Для этого мы продолжаем создавать информационные материалы и ресурсы, такие как листы данных о конфиденциальности продукции для наших основных предложений, белые бумаги и руководства по соблюдению требований, и делаем их доступными для клиентов и партнеров на нашем публичном Центре доверия. Недавно мы добавили нашу Белую бумагу о прозрачности ИИ. Центр доверия является важным компонентом нашего обязательства по прозрачности с ключевыми заинтересованными сторонами.

Как RingCentral обеспечивает интеграцию принципов защиты конфиденциальности во все продукты и услуги на основе ИИ?

Искусственный интеллект может дать бизнесу возможность открыть новый потенциал и быстро извлечь полезную информацию и идеи из своих данных – но с этими преимуществами приходит ответственность. В RingCentral мы остаемся непоколебимыми в нашей приверженности защите клиентов и их данных. Мы достигаем этого посредством столпов защиты конфиденциальности, которые направляют наши практики разработки продукции

Защита конфиденциальности по умолчанию: Мы используем наш подход к защите конфиденциальности по умолчанию, работая в тесном сотрудничестве с юристами продукции, менеджерами продукции и инженерами продукции, чтобы внедрить принципы и требования защиты конфиденциальности во все аспекты наших продуктов и услуг, которые реализуют ИИ. Оценки защиты конфиденциальности интегрированы в жизненный цикл разработки продукции, от идеи до развертывания, и мы строим на этом, чтобы проводить обзоры и рекомендации ИИ.

Прозрачность: Мы предлагаем информационные материалы и ресурсы клиентам, партнерам и пользователям о том, как их данные собираются и используются, как часть нашего обязательства по прозрачности и построению доверия к нашим услугам.

Контроль клиента: Мы предоставляем варианты, которые позволяют клиентам поддерживать контроль над решением о том, как они хотят, чтобы наш ИИ взаимодействовал с их данными.

Можете ли вы предоставить примеры конкретных мер по защите конфиденциальности, встроенных в решения RingCentral по коммуникациям на основе ИИ?

Во-первых, мы добавили в документацию продукции информацию о том, как мы собираем и обрабатываем данные: кто их хранит, какие третьи стороны имеют к ним доступ и т. д. в наших листах данных о конфиденциальности, которые размещены на нашем Центре доверия. Мы конкретно указываем, какие данные служат входными данными для ИИ, а какие данные генерируются в качестве выходных данных ИИ. Кроме того, в рамках обзоров продукции в сотрудничестве с юристами продукции мы реализуем раскрытия информации, чтобы выполнить наше обязательство по прозрачности, и предоставляем администраторам наших клиентов варианты контроля обмена данными с ИИ.

Почему важно для организаций поддерживать полную прозрачность о сборе и использовании данных в эпоху ИИ?

Чтобы способствовать принятию доверенного ИИ, важно для организаций установить доверие к тому, как ИИ обрабатывает данные и к точности выходных данных. Это распространяется на данные, на которых обучен ИИ, логику, примененную алгоритмом, и характер выходных данных.

Мы считаем, что когда поставщики прозрачны и делятся информацией об ИИ, о том, как он работает и для чего используется, клиенты могут принимать обоснованные решения и имеют возможность предоставлять более конкретные раскрытия своим пользователям, тем самым улучшая принятие ИИ и доверие. Когда мы разрабатываем и предоставляем ИИ, мы думаем о всех заинтересованных сторонах: наших клиентах, но также их сотрудниках, партнерах и клиентах.

Какие шаги могут предпринять организации, чтобы обеспечить соблюдение их поставщиками строгих политик использования ИИ?

В RingCentral мы считаем, что развертывание ИИ требует доверия между нами и нашими поставщиками. Поставщики должны обязаться внедрить защиту конфиденциальности и безопасность данных в архитектуру своих продуктов. Для этого мы построили на нашем существующем процессе проверки поставщиков, добавив конкретный обзор ИИ, и реализовали стандарт для использования ИИ третьих сторон, с конкретными требованиями для защиты RingCentral и наших клиентов.

Какие стратегии использует RingCentral, чтобы обеспечить точность и беспристрастность данных, используемых в системах ИИ?

С справедливостью как руководящим принципом, мы постоянно учитываем влияние нашего ИИ и остаемся приверженными поддержанию осведомленности о потенциальных предубеждениях и рисках, с механизмами для выявления и смягчения любых непредвиденных последствий.

• Мы приняли конкретную основу для выявления и предотвращения предубеждений в рамках нашей Рамки развития этического ИИ, которую мы применяем ко всем нашим обзорам продукции.
• Наши случаи использования ИИ предполагают участие человека в оценке выходных данных наших систем ИИ. Например, в наших Smart Notes, даже без контроля содержания созданных заметок, мы можем сделать вывод из действий пользователей, были ли заметки точными или нет. Если пользователь постоянно редактирует заметки, это отправляет сигнал RingCentral скорректировать подсказки.
• Как еще один пример участия человека, наш процесс генерации с помощью извлечения позволяет выходным данным быть строго сосредоточенными на конкретных базах знаний и предоставляет ссылки на источники для сгенерированных выходных данных. Это позволяет человеку проверить ответ и глубже изучить ссылки самих себя.

Обеспечивая точность нашего ИИ, мы подтверждаем свое обещание предоставлять объяснимый и прозрачный ИИ.

Какие проблемы с защитой конфиденциальности возникают с ИИ при крупномасштабных корпоративных развертываниях, и как они решаются?

Прежде всего важно помнить, что существующие законы о защите данных содержат положения, применимые к искусственному интеллекту. Когда законы технологически нейтральны, юридические рамки и этические ориентиры применяются к новым технологиям. Поэтому организации должны обеспечить, чтобы их использование ИИ соответствовало существующим законам о защите данных, таким как GDPR и CPRA.

Во-вторых, ответственность специалистов по защите конфиденциальности заключается в том, чтобы отслеживать новые и возникающие законы об ИИ, которые варьируются от штата к штату и от страны к стране. Законы об ИИ регулируют многочисленные аспекты ИИ, но одним из главных приоритетов новых правил ИИ является защита основных прав человека, включая защиту конфиденциальности.

Критические факторы успеха в решении проблем защиты конфиденциальности заключаются в прозрачности перед пользователями, особенно когда ИИ выполняет профилирование или принимает автоматические решения, влияющие на людей, и позволяет пользователям выбирать, чтобы отказаться от использования ИИ, которое они не считают комфортным.

Какие будущие тенденции вы видите в ИИ и защите данных, и как RingCentral готовится оставаться впереди?

Основные тенденции – это новые законы, которые будут продолжать вступать в силу, растущие требования пользователей к прозрачности и контролю, постоянно растущая необходимость управления рисками, связанными с ИИ, включая риски третьих сторон, и рост киберрисков в ИИ.

Компаниям необходимо внедрить надежное управление и команды должны сотрудничать между функциями, чтобы обеспечить внутреннюю согласованность, минимизировать риски и укрепить доверие пользователей. В RingCentral наше непрерывное обязательство по защите конфиденциальности, безопасности и прозрачности остается непревзойденным. Мы серьезно относимся к этим вопросам. Через наше управление ИИ и наши столпы защиты конфиденциальности RingCentral привержена этическому ИИ.

Спасибо за отличное интервью, читателям, которые хотят узнать больше, следует посетить RingCentral.