Паола Зені, Головний офіцер з питань конфіденційності в RingCentral – Серія інтерв’ю

Паола Зені є Головним офіцером з питань конфіденційності в RingCentral (RNG ). Вона є міжнародним юристом з питань конфіденційності з більш ніж 20-річним досвідом у сфері конфіденційності та ветераном галузі кібербезпеки, де працювала в Symantec та в Palo Alto Networks (PANW ), де вона створила програму конфіденційності з нуля.

Що спонукало вас до кар’єри в сфері конфіденційності даних?

У кінці 1990-х років, коли держави-члени ЄС впроваджували Директиву ЄС про захист даних 1995 року, питання конфіденційності даних почало набувати важливого значення в Європі. Як юрист з технологій, який працював з технологічними компаніями, такими як HP і Agilent Technologies (A ), я вважала це актуальною темою і почала приділяти їй особливу увагу та розвивати своє розуміння вимог конфіденційності. Я швидко зрозуміла, що це область, якою я хочу займатися, не тільки тому, що я знайшла її юридично цікавою та складною, але й тому, що це питання, яке торкається багатьох команд і процесів по всій організації. Бути зайнятою у сфері конфіденційності даних означає роботу з різними групами та особами та вивчення багатьох аспектів бізнесу. Можливість впливати та сприяти змінам на важливому питання по всій організації, а також слідкувати за новою юридичною областю, була надзвичайно корисною. Робота у сфері конфіденційності даних сьогодні більш цікава, ніж будь-коли, враховуючи технологічні розробки та збільшення юридичної складності на глобальному рівні.

Коли ви вперше приєдналися до RingCentral, ви створили Центр довіри, що це конкретно?

У RingCentral ми вважаємо, що надання нашим клієнтам та партнерам інформації про конфіденційність та безпеку їхніх даних є важливим для будівництва та підтримання довіри до наших послуг. Для цього ми продовжимо створювати матеріали та ресурси, такі як довідники конфіденційності продуктів для наших основних пропозицій, білі книги та керівництва з відповідності, і робимо їх доступними клієнтам та партнерам на нашому публічному Центрі довіри. Нещодавно ми додали нашу Білу книгу про прозорість штучного інтелекту. Центр довіри є критичним компонентом нашого зобов’язання щодо прозорості перед ключовими зацікавленими сторонами.

Як RingCentral забезпечує інтеграцію принципів конфіденційності у всі продукти та послуги, що використовують штучний інтелект?

Штучний інтелект може надати підприємствам можливість розблокувати новий потенціал та швидко витягувати корисну інформацію та інсайти з їхніх даних – але разом з цими перевагами приходить відповідальність. У RingCentral ми залишаємося беззаступно зосереджені на захисті клієнтів та їхніх даних. Ми досягаємо цього шляхом наших принципів конфіденційності, які керують нашими практиками розробки продуктів

Конфіденційність за замовчуванням: Ми використовуємо наш підхід до конфіденційності за замовчуванням, працюючи у тісній співпраці з юристами продуктів, менеджерами продуктів та інженерами продуктів, щоб вбудувати принципи конфіденційності та вимоги конфіденційності по всіх аспектах наших продуктів та послуг, які реалізують штучний інтелект. Оцінки конфіденційності інтегровані в життєвий цикл розробки продукту, від ідеї до розгортання, і ми будемо далі проводити огляди штучного інтелекту та надавати рекомендації.

Прозорість: Ми надаємо клієнтам, партнерам та користувачам матеріали та ресурси щодо того, як їхні дані збираються та використовуються, як частина нашого зобов’язання щодо прозорості та будівництва довіри до наших послуг.

Контроль клієнта: Ми надаємо клієнтам варіанти, які дозволяють їм зберігати контроль над тим, як вони хочуть, щоб наш штучний інтелект взаємодіяв з їхніми даними.

Чи можете ви надати приклади конкретних заходів конфіденційності, вбудованих у рішення з комунікацією RingCentral, що використовують штучний інтелект?

По-перше, ми додали інформацію до документації продукту про те, як ми збираємо та обробляємо дані: хто їх зберігає, які третьої сторони мають доступ до них тощо, у наших довідниках конфіденційності продуктів, які розміщені на нашому Центрі довіри. Ми конкретно вказуємо, які дані використовуються як вхідні дані для штучного інтелекту, а які дані генеруються як вихідні дані штучного інтелекту. Крім того, у рамках оглядів продуктів у співпраці з юристами продуктів ми реалізуємо роз’яснення, щоб виконувати наше зобов’язання щодо прозорості, і надаємо клієнтам можливість контролювати спільний доступ до даних зі штучним інтелектом.

Чому组织ам важливо підтримувати повну прозорість щодо збору та використання даних у добу штучного інтелекту?

Для того, щоб сприяти прийняттю довірчих рішень щодо штучного інтелекту, організації повинні встановити довіру до того, як штучний інтелект обробляє дані та до точності виведених даних. Це стосується даних, на яких тренується штучний інтелект, логіки, застосовуваної алгоритмом, та характеру виведених даних.

Ми вважаємо, що коли постачальники є прозорими та діляться інформацією про свій штучний інтелект, його роботу та призначення, клієнти можуть приймати обґрунтовані рішення та мають можливість надавати більш конкретні роз’яснення своїм користувачам, тим самим покращуючи прийняття штучного інтелекту та довіру. Коли ми розробляємо та надаємо штучний інтелект, ми думаємо про всіх зацікавлених сторін: наших клієнтів, але також їхніх працівників, партнерів та клієнтів.

Які кроки організації можуть вжити, щоб забезпечити дотримання їхніми постачальниками суворих політик використання штучного інтелекту?

У RingCentral ми вважаємо, що розгортання штучного інтелекту вимагає довіри між нами та нашими постачальниками. Постачальники повинні зобов’язатися вбудовувати конфіденційність та безпеку даних у архітектуру своїх продуктів. Для цього ми розширили наш існуючий процес перевірки постачальників, додавши спеціальний огляд штучного інтелекту, і реалізували стандарт для використання третинного штучного інтелекту з конкретними вимогами щодо захисту даних RingCentral та наших клієнтів.

Які стратегії RingCentral застосовує для забезпечення точності та відсутності упередженості даних, що подаються до систем штучного інтелекту?

З справедливістю як керівним принципом, ми постійно розглядаємо вплив нашого штучного інтелекту та залишаємося прив’язаними до підтримання усвідомлення потенційних упередженостей та ризиків, з механізмами для виявлення та пом’якшення будь-яких непередбачених наслідків.

• Ми прийняли спеціальну структуру для ідентифікації та запобігання упередженостям як частини нашого Етичного rámця розвитку штучного інтелекту, який ми застосовуємо до всіх наших оглядів продуктів.
• Наші випадки використання штучного інтелекту передбачають участь людини у процесі оцінки виведених даних наших систем штучного інтелекту. Наприклад, у нашихрозумних нотатках, навіть без моніторингу змісту нотаток, що генеруються, ми можемо зробити висновок про те, чи були нотатки точними чи ні, залежно від дій користувача. Якщо користувач постійно редагує нотатки, це надсилає сигнал RingCentral про необхідність налаштування підказок.
• Як інший приклад участі людини у процесі, наш процес генерації інформації на основі знань дозволяє виведенню бути суворо зосередженим на конкретних базах знань та надає посилання на джерела виведених даних. Це дозволяє людині перевірити відповідь та глибше вивчити посилання самі.

Забезпечуючи точність нашого штучного інтелекту, ми підтверджуємо свою обіцянку надавати пояснюваний та прозорий штучний інтелект.

Які питання конфіденційності виникають при використанні штучного інтелекту у великомасштабних корпоративних розгортаннях, і як вони вирішуються?

По-перше, важливо пам’ятати, що існуючі закони про конфіденційність містять положення, які застосовуються до штучного інтелекту. Коли закони є технологічно нейтральними, юридичні рамки та етичні орієнтири застосовуються до нових технологій.. Тому організації повинні забезпечити відповідність свого використання штучного інтелекту існуючим законам про конфіденційність, такими як GDPR та CPRA.

По-друге, відповідальність фахівців з конфіденційності полягає у моніторингу новітніх та емерджентних законів про штучний інтелект, які відрізняються від держави до держави та країни до країни. Закони про штучний інтелект охоплюють численні аспекти штучного інтелекту, але одним з найвищих пріоритетів для нового регулювання штучного інтелекту є захист основних прав людини, включаючи конфіденційність.

Критичні фактори успіху у вирішенні питань конфіденційності полягають у прозорості перед користувачами, особливо там, де штучний інтелект здійснює профайлінг або приймає автоматичні рішення, що впливають на окремих осіб, та надає користувачам можливість відмовитися від використання штучного інтелекту, якщо вони цього бажають.

Які майбутні тенденції ви бачите у сфері штучного інтелекту та конфіденційності даних, і як RingCentral готується залишатися попереду?

Основними тенденціями будуть нові закони, які будуть продовжувати набувати чинності, зростаючі вимоги користувачів щодо прозорості та контролю, постійно зростаюча потреба у управлінні ризиками, пов’язаними зі штучним інтелектом, включаючи ризики третіх сторін, та зростання кіберризиків у сфері штучного інтелекту.

Компаніям потрібно встановити надійне управління та команди повинні співпрацювати між собою, щоб забезпечити внутрішню узгодженість, мінімізувати ризики та зростати довіру користувачів. У RingCentral наше тривале зобов’язання щодо конфіденційності, безпеки та прозорості залишається неперевершеним. Ми серйозно ставимося до цих питань. Через наше управління штучним інтелектом та наші принципи конфіденційності RingCentral зобов’язується дотримуватися етичного штучного інтелекту.

Дякуємо за чудовий інтерв’ю, читачам, які бажають дізнатися більше, повинні відвідати RingCentral.