Mezera v souhlasu skrytá v podnikovém AI

Rozhovory o podnikovém AI mají tendenci začínat daty. Má společnost dostatek informací o zákaznících k trénování modelu, personalizaci zážitku nebo podpoře automatického rozhodování?

Otázkou, která se často přehlíží, je, zda má společnost skutečně povolení použít tato data pro konkrétní účel, který má na mysli.

Zákaznická data mohou být přesná, přístupná a cenná, přičemž stále podléhají omezením. Někdo může souhlasit s přijímáním personalizovaných doporučení, aniž by souhlasil s použitím svých informací k trénování AI modelu. Jiný může chtít e‑mailové aktualizace jednou za měsíc, ale odmítat denní textové zprávy.

Proto jsem začal popisovat správu souhlasu a preferencí jako správu oprávnění. Odpovídá na jednoduchou otázku: Kdo, nebo co, má povolení přistupovat k těmto datům a používat je pro konkrétní účel?

Jak AI proniká do více zákaznických zážitků, musí společnosti odpovědět na tuto otázku dříve, než systém jedná. Dokumentované AI incidenty vzrostly z 233 v roce 2024 na 362 v roce 2025 — nárůst o 55 % během jediného roku a ukazatel, jak moc je na správném řešení toho závislé.

Dostupná data nejsou autorizovaná data

Většina velkých organizací již má technologii pro sběr, ukládání a přenos informací o zákaznících. Mohou vědět, kde data jsou uložena, kterému zákazníkovi patří a jak je zpřístupnit jiné aplikaci.

Správa oprávnění odpovídá na jinou sadu otázek:

• Proč byly informace shromážděny?
• Na čem zákazník souhlasil?
• Na jaké využití se tento souhlas vztahuje?
• Změnil zákazník názor?
• Které systémy potřebují tuto aktualizaci získat?

Tyto otázky se stávají zvláště důležitými, když jsou data shromážděná pro jeden účel použita v novém AI scénáři. Informace uložené v CRM nebo zákaznickém profilu nejsou automaticky vhodné pro každý model, kampaň či automatické rozhodnutí.

Souhlas je jedním zákonným základem pro zpracování osobních údajů, ale není to jediný. Požadavky závisí na jurisdikci, datech a konkrétním případu použití. Hlavní myšlenkou je, že samotná dostupnost neprokazuje oprávnění.Regulátoři již zkoumají co se stane, když jsou AI modely vyvíjeny pomocí nezákonně zpracovaných osobních údajů. Otázky ohledně toho, jak byly informace získány, nezmizí, jakmile se tyto informace dostanou do modelu.

AI potřebuje víc než „opt‑in“ nebo „opt‑out“

Tradiční systémy souhlasu často omezují rozhodnutí zákazníka na dvě možnosti: opt‑in nebo opt‑out. To neodráží, jak lidé ve skutečnosti chtějí komunikovat se společnostmi.

Zákazník může chtít doporučení produktů, ale odmítat nesouvisející reklamu. Může přijmout personalizaci a zároveň odmítnout použití svých informací pro trénování modelu. Může také mít rád e‑mailové zprávy od značky, ale chce je dostávat jednou za měsíc místo každý den.

Přehled 22 AI systémů určených koncovým spotřebitelům zjistil širokou variabilitu v tom, jak produkty žádají o povolení a spravují personalizaci, přičemž mezi zkoumanými systémy neexistuje jednotný standard.

Poskytnutí zákazníkům možnosti „opt‑down“ může být velkým odemčením. Bez této volby může někdo, kdo se znechutí příliš mnoha zprávami, zcela odhlásit odběr. Společnost tak ztratí ochotného zákazníka, protože mu nikdy nenabídla rozumnější volbu.

Zážitek se stane invazivním v okamžiku, kdy komunikace selže — když si zákazník nepamatuje, že o to požádal, nebo nechápe, proč společnost jedná na základě určitých informací. Firmy mohou většinu této zmatenosti předejít tím, že budou přímé: Toto jsou informace, které chceme sbírat, takto je chceme použít a toto obdržíte na oplátku.

Volba zákazníka musí dosáhnout do všech systémů

Zaznamenání preference na webu je jen začátek. Tato volba musí dosáhnout do každého systému, který používá informace o zákazníkovi. Zákazník může aktualizovat preferenci, zatímco e‑mailová platforma, servisní aplikace nebo AI prostředí nadále reagují na starší odpověď, a různé obchodní jednotky tak mohou mít v důsledku protichůdné záznamy. Zákazník může také přejít z anonymního prohlížení na ověřený účet, aniž by společnost spojila jeho dřívější volby s novým profilem.

To je místo, kde souhlas již nemůže zůstávat v odděleném soukromí, o kterém zbytek podniku sotva ví. Musí být propojen s marketingem, zákaznickou zkušeností, správou dat a systémy nasazujícími AI. Fungující vrstva oprávnění by měla udržovat nejnovější záznam, propojit volby napříč zákaznickými profily, přiřadit každé oprávnění ke konkrétnímu účelu a zasílat změny do všech relevantních systémů.

Pokud centrální záznam ukazuje, že zákazník odvolal souhlas, ale podřízené systémy data i tak nadále používají, zaznamenání volby ve skutečnosti nevyhovělo. Tento problém se s AI mnohem zvětšuje. Jedno zastaralé povolení může ovlivnit tisíce doporučení, zpráv nebo automatizovaných akcí, než si to někdo všimne.

Ochrana soukromí si nemůže dovolit být „úřadem ne“

Nic z toho nefunguje, pokud je soukromí zapojeno až po události. Týmy pro ochranu soukromí si v některých společnostech získaly pověst úřadu ne a v mnoha případech se tak děje, protože soukromí je do projektu zapojeno až poté, co byly učiněny důležité rozhodnutí.

Marketingový tým vytvoří kampaň, datový tým postaví nový model nebo vedení rozhodne, že je třeba rychle postupovat v AI. Ochrana soukromí obdrží plán téměř na konci a identifikuje problém. V té chvíli může být jedinou realistickou odpovědí „ne“.

Zavedení ochrany soukromí do procesu dříve mění konverzaci. Tým může pomoci podniku pokračovat, zatímco kontroluje správné body během cesty. Ochrana soukromí při návrhu je mnohem snazší než pokus rozmotat systém poté, co data zákazníka již prošla.

Je to důležité, protože týmy pro ochranu soukromí jsou často malé, i ve světových největších společnostech. Tyto malé, ale silné týmy nemohou ručně sledovat každou volbu zákazníka napříč každou aplikací. Potřebují systémy, které jsou flexibilní, snadno použitelné a schopné přenášet oprávnění po celém podniku.

Profesionálové v oblasti ochrany soukromí také potřebují jistotu, aby mohli svou práci vysvětlit v obchodních termínech. Sedí mezi společností a zákazníkem a mohou pomoci oběma stranám získat z vztahu více hodnoty.

Auditní stopa musí dosáhnout AI rozhodnutí

Když je AI‑řízené rozhodnutí zpochybněno, společnost by měla být schopna rekonstruovat, co se stalo. To zahrnuje identifikaci, která zákaznická data byla použita, na čem zákazník souhlasil, jaké oznámení obdržel a zda nejnovější volba dosáhla systému před tím, než jednal. Zavedené pokyny pro AI zdůrazňují dokumentaci dat, systémových požadavků a rozhodnutí po celou životní cyklus AI.

Tyto důkazy podporují regulatorní šetření, ale mají také praktickou hodnotu. Týmy pro ochranu soukromí, marketing, zákaznickou zkušenost a data potřebují pochopit, proč se něco pokazilo, identifikovat, které systémy se vymkly z synchronizace, a opravit proces.

Zachycení souhlasu není totéž jako jeho pozdější prokázání. Záznam se stává mnohem obtížnějším k rekonstrukci poté, co data prošla několika systémy a ovlivnila automatizovanou akci.

Důvěra se buduje nebo rozbíjí po jedné interakci

Důvěra může znít jako módní slovo, ale je základem každého vztahu se zákazníkem. Každá interakce tento vztah učiní o něco lepším nebo o něco horším, ať už si to společnost uvědomuje, nebo ne.

Jak adopce roste, společnosti mají více příležitostí vytvářet hodnotu, ale také více příležitostí, aby malé mezery ve správě ovlivnily zákazníky. Před rozšířením AI aplikace zaměřené na zákazníky by měli vedoucí rozumět, jaká data budou použita, která oprávnění se vztahují a jak rychle se aktualizovaná volba zákazníka dostane do systému.

Doporučení by nemělo spoléhat na informace, které zákazník neočekával, že budou použity. Zpráva by neměla přijít kanálem, který zákazník odmítl. Automatizovaný systém by neměl jednat jen proto, že jsou data k dispozici.

Zákazníci již říkají organizacím, co chtějí. Dalším krokem je zajistit, aby AI systémy pracující s jejich daty byly schopny naslouchat.