Paola Zeni, hlavní důstojník pro ochranu soukromí ve společnosti RingCentral – rozhovor

Paola Zeni je hlavní důstojník pro ochranu soukromí ve společnosti RingCentral (RNG ). Je mezinárodní právničkou pro ochranu soukromí s více než 20 lety zkušeností a veteránkou kybernetické bezpečnosti, která pracovala ve společnostech Symantec a Palo Alto Networks (PANW ), kde vytvořila program ochrany soukromí od základů.

Co vás inspirovalo k tomu, abyste se věnovali kariéře v oblasti ochrany soukromí?

Koncem 90. let, kdy členské státy EU implementovaly směrnici EU o ochraně údajů z roku 1995, začalo se ochrana soukromí v Evropě stávat důležitou otázkou. Jako právničkám pro technologii, která spolupracovala s technologickými společnostmi, jako jsou HP a Agilent Technologies (A ), jsem považovala tuto problematiku za relevantní a začala jsem se o ni zajímat a rozšiřovat své znalosti o požadavcích na ochranu soukromí. Brzy jsem věděla, že se jedná o oblast, ve které chci být zapojena, nejen proto, že ji považuji za právně zajímavou a náročnou, ale také proto, že se jedná o problematiku, která se dotýká mnoha týmů a procesů v celé organizaci. Zapojení do ochrany soukromí znamená spolupráci s různými skupinami a jednotlivci a získávání znalostí o mnoha aspektech podnikání. Možnost ovlivňovat a přinášet změny v důležité otázce napříč mnoha funkcemi v organizaci, a to při sledování rychle se vyvíjející právní oblasti, je pro mě velmi přínosné. Práce v oblasti ochrany soukromí je dnes více než kdy jindy zajímavá, zejména s ohledem na technologický rozvoj a rostoucí právní složitost na globální úrovni.

Když jste poprvé nastoupila do RingCentral, vytvořila jste Centrum důvěry, co to přesně je?

Ve společnosti RingCentral věříme, že poskytování zákazníkům a partnerům informací o ochraně soukromí a zabezpečení jejich dat je nezbytné pro budování a udržení důvěry v našich službách. Z tohoto důvodu neustále vytváříme propagační materiály a zdroje, jako jsou datasheets pro ochranu soukromí našich hlavních nabídek, bílé knihy a příručky pro dodržování předpisů, a zpřístupňujeme je zákazníkům a partnerům na našem veřejně přístupném Centru důvěry. Nedávno jsme přidali naší Bílou knihu o transparentnosti AI. Centrum důvěry je kritickým prvkem našeho závazku transparentnosti vůči našim hlavním zainteresovaným stranám.

Jak RingCentral zajišťuje, aby principy ochrany soukromí byly integrovány do všech produktů a služeb poháněných umělou inteligencí?

Umělá inteligence může podnikům umožnit odemknout nový potenciál a rychle získat smysluplné informace a poznatky z jejich dat – ale s těmito výhodami přichází také odpovědnost. Ve společnosti RingCentral se soustředíme na ochranu zákazníků a jejich dat. Toho dosahujeme prostřednictvím našich pilířů ochrany soukromí, které řídí naše postupy při vývoji produktů

Návrh s ohledem na ochranu soukromí: Používáme náš přístup založený na návrhu s ohledem na ochranu soukromí, při kterém úzce spolupracujeme s právníky, manažery produktů a inženýry, aby byly principy ochrany soukromí a požadavky na ochranu soukromí začleněny do všech aspektů našich produktů a služeb, které využívají umělou inteligenci. Posuzování ochrany soukromí je integrováno do životního cyklu vývoje produktů, od fáze ideového návrhu až po nasazení, a na tomto základě provádíme recenze a posuzování AI.

Transparentnost: Poskytujeme zákazníkům, partnerům a uživatelům materiály a zdroje, které informují o tom, jak jsou jejich data shromažďována a používána, jako součást našeho závazku transparentnosti a budování důvěry v našich službách.

Ovládání zákazníků: Poskytujeme zákazníkům možnosti, které jim umožňují rozhodovat o tom, jak chtějí, aby naše AI interagovala s jejich daty.

Můžete uvést konkrétní příklady konkrétních opatření na ochranu soukromí, která jsou začleněna do komunikačních řešení RingCentral s umělou inteligencí?

Nejprve jsme přidali do dokumentace našich produktů informace o tom, jak shromažďujeme a zpracováváme data: kdo je uchovává, které třetí strany mají k nim přístup, atd. v našich datasheitech pro ochranu soukromí, které jsou zveřejněny na našem Centru důvěry. Konkrétně uvádíme, která data slouží jako vstup pro AI a která data jsou generována jako výstup z AI. Kromě toho, jako součást našich recenzí produktů ve spolupráci s právníky, implementujeme oznámení, aby splnily náš závazek transparentnosti, a poskytujeme našim zákazníkům možnost kontrolovat sdílení dat s AI.

Proč je důležité, aby organizace udržovaly úplnou transparentnost o shromažďování a používání dat v éře AI?

Aby se podpořila adopce důvěryhodné AI, je nezbytné, aby organizace vytvořily důvěru v tom, jak AI zpracovává data a v přesnosti výstupu. To se vztahuje na data, na kterých je AI trénována, logiku aplikovanou algoritmem a povahu výstupu.

Věříme, že když poskytovatelé jsou transparentní a sdílejí informace o své AI, o tom, jak funguje a k čemu se používá, zákazníci mohou učinit informovaná rozhodnutí a jsou schopni poskytnout konkrétnější oznámení svým uživatelům, a tím zlepšit adopci AI a důvěru. Když vyvíjíme a poskytujeme AI, myslíme na všechny zainteresované strany: naše zákazníky, ale také jejich zaměstnance, partnery a zákazníky.

Jaké kroky mohou organizace učinit, aby zajistily, že jejich dodavatelé dodržují přísné zásady používání AI?

Ve společnosti RingCentral věříme, že nasazení AI vyžaduje důvěru mezi námi a našimi dodavateli. Dodavatelé musí zavázat se k začlenění ochrany soukromí a zabezpečení dat do architektury svých produktů. Z tohoto důvodu jsme rozšířili náš stávající proces due diligence u dodavatelů o konkrétní recenzi AI a implementovali standard pro používání třetích stran AI, s konkrétními požadavky na ochranu RingCentral a našich zákazníků.

Jaké strategie používá RingCentral, aby zajistil, že data, která jsou použita pro AI systémy, jsou přesná a nezaujatá?

S férovostí jako vedoucím principem neustále zvažujeme dopad naší AI a zůstáváme zavázáni k udržení povědomí o potenciálních předpojatostech a rizicích, s mechanismy pro identifikaci a zmírnění jakýchkoli neúmyslných důsledků.

• Přijali jsme konkrétní rámec pro identifikaci a prevenci předpojatostí jako součást našeho Rámcu pro etický vývoj AI, který aplikujeme na všechny naše recenze produktů.
• Náš případ použití AI zahrnuje lidský faktor pro vyhodnocení výstupů našich AI systémů. Například v našich Smart Notes, i když nekontrolujeme obsah poznámek, které jsou produkovány, můžeme odvodit z akcí uživatelů, zda byly poznámky přesné nebo ne. Pokud uživatel edituje poznámky neustále, posílá to signál RingCentral, aby upravil výzvy.
• Jako další příklad lidského faktoru umožňuje náš proces generace s podporou vyhledávání výstup být striktně zaměřen na konkrétní znalostní databáze a poskytuje odkazy na zdroje pro výstupy, které jsou generovány. To umožňuje lidskému faktoru ověřit odpověď a procházet odkazy.

Zajištěním přesnosti naší AI se zavazujeme poskytovat vysvětlitelnou a transparentní AI.

Jaké výzvy související s ochranou soukromí vznikají s AI v rozsáhlých podnikových nasazeních a jak jsou řešeny?

Nejprve je důležité si uvědomit, že stávající zákony o ochraně soukromí obsahují ustanovení, která se vztahují na umělou inteligenci. Když jsou zákony technologiálně neutrální, právní rámce a etické ukazatele se vztahují na nové technologie. Organizace proto musí zajistit, aby jejich používání AI splňovalo stávající zákony o ochraně soukromí, jako je GDPR a CPRA.

Druhým je odpovědnost odborníků na ochranu soukromí monitorovat vznikající a nově se objevující zákony o AI, které se liší podle států a zemí. Zákony o AI se týkají mnoha aspektů AI, ale jednou z hlavních priorit pro novou regulaci AI je ochrana základních lidských práv, včetně ochrany soukromí.

Kritickými faktory úspěchu při řešení otázek ochrany soukromí je transparentnost vůči uživatelům, zejména tam, kde AI provádí profilování nebo činí automatizovaná rozhodnutí, která ovlivňují jednotlivce a umožňují uživatelům zvolit si, zda chtějí AI používat nebo ne.

Jaké budoucí trendy vidíte v AI a ochraně soukromí a jak se RingCentral připravuje, aby zůstal před nimi?

Hlavní trendy jsou nové zákony, které budou nadále vydávány, rostoucí požadavky uživatelů na transparentnost a kontrolu, stále rostoucí potřeba řízení rizik souvisejících s AI, včetně rizik třetích stran, a růst kybernetických rizik v AI.

Společnosti musí zavést robustní řízení a týmy musí spolupracovat napříč funkcemi, aby zajistily vnitřní soulad, minimalizovaly rizika a budily důvěru uživatelů. Ve společnosti RingCentral zůstáváme zavázáni k ochraně soukromí, zabezpečení a transparentnosti. Bereme tyto věci vážně. Prostřednictvím našeho řízení AI a našich pilířů ochrany soukromí je RingCentral zavázán k etické AI.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit RingCentral.