Paola Zeni, Chief Privacy Officer w RingCentral – Wywiad

Paola Zeni jest Chief Privacy Officer w RingCentral (RNG ). Jest międzynarodowym prawnikiem ds. prywatności z ponad 20-letnim doświadczeniem w dziedzinie prywatności i weteranem branży cyberbezpieczeństwa, mającym doświadczenie w pracy w Symantec i Palo Alto Networks (PANW ), gdzie zbudowała program prywatności od podstaw.

Co skłoniło Cię do podjęcia kariery w dziedzinie prywatności danych?

Pod koniec lat 90., gdy państwa członkowskie UE wdrażały dyrektywę UE o ochronie danych z 1995 r., prywatność danych zaczęła pojawiać się w Europie jako ważna kwestia. Jako prawnik specjalizujący się w technologii i pracujący z firmami technologicznymi, takimi jak HP i Agilent Technologies (A ), uznałem tę kwestię za istotną i zacząłem ją badać. Szybko zdałem sobie sprawę, że jest to obszar, w którym chcę się zaangażować, nie tylko dlatego, że uważam go za interesujący i wymagający pod względem prawnym, ale także dlatego, że jest to kwestia, która dotyka wielu zespołów i procesów w całej organizacji. Zaangażowanie w prywatność danych oznacza pracę z różnymi grupami i osobami oraz zdobywanie wiedzy na temat wielu aspektów biznesu. Możliwość wpływania na zmiany i ich wprowadzania w ważnej kwestii we wszystkich obszarach organizacji, a także śledzenie nowego obszaru prawnego, było dla mnie niezwykle satysfakcjonujące. Praca w dziedzinie prywatności danych jest dzisiaj bardziej ekscytująca niż kiedykolwiek, biorąc pod uwagę rozwój technologiczny i zwiększoną złożoność prawną na poziomie globalnym.

Gdy po raz pierwszy dołączyłaś do RingCentral, stworzyłaś Centrum Zaufania, co to konkretnie?

W RingCentral uważamy, że dostarczanie naszym klientom i partnerom informacji o prywatności i bezpieczeństwie ich danych jest niezbędne do budowania i utrzymania zaufania do naszych usług. Dlatego tworzymy materiały i zasoby, takie jak arkusze prywatności produktów dla naszych podstawowych ofert, białe księgi i przewodniki zgodności, i udostępniamy je klientom i partnerom na naszym publicznym Centrum Zaufania. Ostatnio dodaliśmy nasz Biały Papier o Przejrzystości AI. Centrum Zaufania jest kluczowym elementem naszego zaangażowania w przejrzystość wobec naszych interesariuszy.

Jak RingCentral zapewnia, że zasady prywatności są wdrożone we wszystkich produktach i usługach opartych na AI?

Sztuczna inteligencja może umożliwić firmom odblokowanie nowego potencjału i szybkie wydobycie istotnych informacji i wglądów z ich danych – ale z tymi korzyściami idzie odpowiedzialność. W RingCentral pozostajemy nieustannie skupieni na ochronie klientów i ich danych. Osiągamy to poprzez nasze filary prywatności, które kierują naszymi praktykami rozwoju produktów

Prywatność przez projektowanie: Wykorzystujemy nasze podejście do prywatności przez projektowanie, pracując ściśle z radcami prawnymi, menedżerami produktów i inżynierami produktów, aby wbudować zasady prywatności i wymagania dotyczące prywatności w różnych aspektach naszych produktów i usług, które wykorzystują AI. Oceny prywatności są integrowane w cyklu życia rozwoju produktu, od pomysłu do wdrożenia, i budujemy na tym, aby przeprowadzać przeglądy AI i udzielać wskazówek.

Przejrzystość: Oferujemy materiały i zasoby naszym klientom, partnerom i użytkownikom na temat tego, w jaki sposób ich dane są zbierane i wykorzystywane, jako część naszego zaangażowania w przejrzystość i budowanie zaufania do naszych usług.

Kontrola klienta: Zapewniamy opcje, które umożliwiają klientom utrzymanie kontroli nad tym, jak chcą, aby nasze AI wchodziło w interakcje z ich danymi.

Czy możesz podać przykłady konkretnych środków prywatności wbudowanych w rozwiązania komunikacyjne RingCentral oparte na AI?

Po pierwsze, dodaliśmy do dokumentacji produktu informacje dotyczące tego, w jaki sposób zbieramy i przetwarzamy dane: kto je przechowuje, jakie podmioty zewnętrzne mają do nich dostęp, itd. w naszych arkuszach prywatności, które są publikowane na naszym Centrum Zaufania. Konkretnie wskazujemy, które dane służą jako dane wejściowe dla AI, a które dane są generowane jako dane wyjściowe z AI. Ponadto, w ramach naszych przeglądów produktów we współpracy z radcami prawnymi, wdrażamy ujawnienia w celu spełnienia naszego zaangażowania w przejrzystość, i zapewniamy naszym klientom administratorom opcje kontroli udostępniania danych AI.

Dlaczego jest tak ważne, aby organizacje utrzymywały pełną przejrzystość dotyczącą zbierania i wykorzystywania danych w erze AI?

Aby umożliwić przyjęcie godnego zaufania AI, niezbędne jest, aby organizacje ustanowiły zaufanie do tego, jak AI przetwarza dane i jak dokładne są dane wyjściowe. To dotyczy danych, na których AI jest szkolony, logiki stosowanej przez algorytm i natury danych wyjściowych.

Uważamy, że gdy dostawcy są przejrzyste i udostępniają informacje o swoim AI, jak działa i do czego służy, klienci mogą podejmować świadome decyzje i są uprawnieni do udzielania bardziej szczegółowych ujawnień swoim użytkownikom, co poprawia przyjęcie AI i zaufanie. Podczas tworzenia i świadczenia AI myślimy o wszystkich interesariuszach: naszych klientach, ale także ich pracownikach, partnerach i klientach.

Jakie kroki mogą podjąć organizacje, aby upewnić się, że ich dostawcy przestrzegają surowych zasad korzystania z AI?

W RingCentral uważamy, że wdrożenie AI wymaga zaufania między nami a naszymi dostawcami. Dostawcy muszą zobowiązać się do wbudowania prywatności i bezpieczeństwa danych w architekturę swoich produktów. Dlatego rozbudowaliśmy nasz istniejący proces due diligence dostawców, dodając specjalny przegląd AI, i wdrożyliśmy standard korzystania z AI stron trzecich, z określonymi wymogami ochrony RingCentral i naszych klientów.

Jakie strategie stosuje RingCentral, aby zapewnić, że dane wprowadzane do systemów AI są dokładne i wolne od uprzedzeń?

Z uczciwością jako naszym przewodnim założeniem, nieustannie rozważamy wpływ naszego AI i pozostajemy zaangażowani w utrzymanie świadomości potencjalnych uprzedzeń i ryzyk, z mechanizmami w miejscu, aby zidentyfikować i złagodzić wszelkie niezamierzone konsekwencje.

• Zastosowaliśmy określony framework do identyfikacji i prewencji uprzedzeń jako część naszego ramowego rozwoju AI, który stosujemy we wszystkich naszych przeglądach produktów.
• Nasze przypadki użycia AI obejmują człowieka w pętli, aby ocenić dane wyjściowe naszych systemów AI. Na przykład, w naszych Smart Notes, nawet bez monitorowania zawartości notatek wygenerowanych, możemy wnioskować z działań użytkowników, czy notatki były dokładne czy nie. Jeśli użytkownik edytuje notatki ciągle, wysyła sygnał do RingCentral, aby dostosować podpowiedzi.
• Jako kolejny przykład człowieka w pętli, nasz proces generacji uzupełniony o odzyskiwanie pozwala na ścisłe ukierunkowanie danych wyjściowych na określone bazy wiedzy i zapewnia odniesienia do źródeł danych wyjściowych. To pozwala człowiekowi na weryfikację odpowiedzi i głębsze zanurzenie się w odniesieniach.

Poprzez zapewnienie, że nasze AI jest dokładne, stoimy za naszą obietnicą dostarczania wyjaśnialnego i przejrzystego AI.

Jakie wyzwania dotyczące prywatności pojawiają się w przypadku AI w dużych wdrożeniach przedsiębiorstw, i jak są one rozwiązywane?

Po pierwsze, ważne jest, aby pamiętać, że istniejące prawa dotyczące prywatności zawierają przepisy, które mają zastosowanie do sztucznej inteligencji. Gdy prawa są neutralne pod względem technologii, ramy prawne i wskazówki etyczne mają zastosowanie do nowych technologii.. Dlatego organizacje muszą upewnić się, że ich korzystanie z AI jest zgodne z istniejącymi prawami dotyczącymi prywatności, takimi jak RODO i CPRA.

Po drugie, odpowiedzialność profesjonalistów ds. prywatności polega na monitorowaniu nowych i pojawiających się praw dotyczących AI, które różnią się od stanu do stanu i kraju do kraju. Prawa AI dotyczą licznych aspektów AI, ale jednym z najwyższych priorytetów nowych regulacji AI jest ochrona podstawowych praw człowieka, w tym prywatności.

Kluczowymi czynnikami sukcesu w rozwiązywaniu problemów z prywatnością są przejrzystość wobec użytkowników, zwłaszcza w przypadku, gdy AI wykonuje profilowanie lub podejmuje automatyczne decyzje wpływające na osoby, oraz umożliwienie użytkownikom wyboru rezygnacji z użycia AI, którego nie akceptują.

Jakie trendy widzisz w przyszłości w AI i prywatności danych, i jak RingCentral przygotowuje się do pozostania na czele?

Główne trendy to nowe prawa, które będą nadal wchodzić w życie, rosnące wymagania użytkowników dotyczące przejrzystości i kontroli, rosnąca potrzeba zarządzania ryzykiem związanym z AI, w tym ryzykiem zewnętrznym, oraz rosnące ryzyko cybernetyczne w AI.

Firmy muszą wdrożyć solidne zarządzanie i zespoły muszą współpracować na różnych poziomach, aby zapewnić wewnętrzną spójność, minimalizować ryzyko i budować zaufanie użytkowników. W RingCentral nasze nieustanne zaangażowanie w prywatność, bezpieczeństwo i przejrzystość pozostaje niezrównane. Traktujemy te kwestie poważnie. Poprzez nasze zarządzanie AI i nasze filary prywatności, RingCentral jest zaangażowany w etyczne AI.

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić RingCentral.