Samtykkegabet, der gemmer sig i Enterprise AI

Enterprise AI-samtaler begynder typisk med data. Har virksomheden nok kundeinformation til at træne en model, personalisere en oplevelse eller understøtte en automatiseret beslutning?

Spørgsmålet, der ofte overses, er om virksomheden faktisk har tilladelse til at bruge de data til det specifikke formål, den har i tankerne.

Kundedata kan være nøjagtige, tilgængelige og værdifulde, mens de stadig bærer begrænsninger. En person kan acceptere at modtage personlige anbefalinger uden at acceptere, at deres oplysninger bruges til at træne en AI-model. En anden kan ønske e‑mailopdateringer én gang om måneden, men afvise daglige sms-beskeder.

Derfor er jeg begyndt at beskrive samtykke- og præferencehåndtering som tilladelsesstyring. Det besvarer et enkelt spørgsmål: Hvem, eller hvad, har tilladelse til at få adgang til disse data og bruge dem til et bestemt formål?

Efterhånden som AI bliver forbundet med flere kundeoplevelser, skal virksomheder besvare dette spørgsmål, før systemet handler. Dokumenterede AI‑hændelser øgedes fra 233 i 2024 til 362 i 2025 — et spring på 55 % på ét år, og et tegn på, hvor meget der står på spil for at få dette rigtigt.

Tilgængelige data er ikke autoriserede data

De fleste store organisationer har allerede teknologi til at indsamle, lagre og flytte kundeinformation. De kan vide, hvor dataene befinder sig, hvilken kunde de tilhører, og hvordan de kan gøres tilgængelige for en anden applikation.

Tilladelsesstyring besvarer et andet sæt af spørgsmål:

• Hvorfor blev oplysningerne indsamlet?
• Hvad accepterede kunden?
• Hvilke anvendelser dækker denne aftale?
• Har kunden skiftet mening?
• Hvilke systemer skal modtage denne opdatering?

Disse spørgsmål bliver især vigtige, når data indsamlet til ét formål introduceres i et nyt AI‑brugsscenarie. Oplysninger, der ligger i et CRM eller en kundeprofil, er ikke automatisk egnede til enhver model, kampagne eller automatiseret beslutning.

Samtykke er en lovlig grund til behandling af personoplysninger, men det er ikke den eneste. Kravene afhænger af jurisdiktion, data og anvendelsestilfælde. Det overordnede point er, at blot tilgængelighed ikke beviser autorisation.Regulatorer undersøger allerede hvad der sker, når AI‑modeller udvikles ved brug af ulovligt behandlede personoplysninger. Spørgsmål om, hvordan oplysningerne blev indsamlet, forsvinder ikke, når de først er indlejret i en model.

AI har brug for mere end “Opt‑in” eller “Opt‑out”

Traditionelle samtykkesystemer reducerer ofte kundens beslutning til to valg: opt‑in eller opt‑out. Det afspejler ikke, hvordan folk faktisk ønsker at interagere med virksomheder.

En kunde kan ønske produktanbefalinger, men afvise irrelevant reklame. De kan acceptere personalisering, mens de afviser brug af deres oplysninger til modeltræning. De kan stadig kunne lide en virksomheds e‑mails, men foretrække at modtage dem én gang om måneden i stedet for hver dag.

En gennemgang af 22 forbruger‑rettede AI‑systemer fik bred variation i, hvordan produkter anmoder om tilladelse og håndterer personalisering, uden en ensartet standard på tværs af de undersøgte systemer.

At give kunderne mulighed for at “opt‑down” kan være en enorm åbning. Uden den mulighed kan en person, der bliver frustreret over for mange beskeder, afmelde sig helt. Virksomheden mister en villig kunde, fordi den aldrig gav personen et mere rimeligt valg.

Oplevelsen bliver påtrængende i det øjeblik, udvekslingen bryder sammen — når kunden ikke kan huske at have anmodet om det eller ikke forstår, hvorfor virksomheden handler på bestemte oplysninger. Virksomheder kan undgå meget af den forvirring ved at være direkte: Her er de oplysninger, vi vil indsamle, her er hvordan vi vil bruge dem, og her er, hvad du vil modtage til gengæld.

En kundes valg skal nå alle systemer

At indfange en præference på et websted er kun begyndelsen. Det valg skal nå alle systemer, der bruger kundens oplysninger. En kunde kan opdatere en præference, mens en e‑mailplatform, service‑applikation eller AI‑miljø fortsætter med at handle på et ældre svar, og forskellige forretningsenheder kan ende med at have modstridende registre som følge heraf. En kunde kan også gå fra anonym browsing til en autentificeret konto, uden at virksomheden nogensinde forbinder de tidligere valg med den nye profil.

Det er her, samtykke ikke længere kan sidde i en privatlivssilo, som resten af virksomheden næsten ikke kender til. Det skal forbindes med marketing, kundeoplevelse, datastyring og de systemer, der implementerer AI. Et fungerende tilladelseslag bør vedligeholde den seneste registrering, forbinde valg på tværs af kundprofiler, knytte hver tilladelse til et specifikt formål og sende ændringer til alle relevante systemer.

Hvis den centrale registrering viser, at en kunde har trukket sin tilladelse tilbage, men efterfølgende systemer fortsat bruger dataene, så har registreringen af valget i praksis ikke respekteret det. Det problem bliver meget større med AI. En forældet tilladelse kan påvirke tusindvis af anbefalinger, beskeder eller automatiserede handlinger, før nogen bemærker det.

Privatliv har ikke råd til at være “Afslagskontoret”

Intet af dette fungerer, hvis privatliv kun inddrages efterfølgende. Privatlivsteams har i nogle virksomheder opnået ry som afslagskontoret, og i mange tilfælde sker det, fordi privatliv først bringes ind i et projekt, når de vigtige beslutninger allerede er truffet.

Et marketingteam udvikler en kampagne, et datateam bygger en ny model, eller ledelsen beslutter, at de skal handle hurtigt på AI. Privatliv får planen tæt på slutningen og identificerer et problem. På det tidspunkt kan det eneste realistiske svar være nej.

At bringe privatliv ind i processen tidligere ændrer samtalen. Teamet kan hjælpe virksomheden med at fortsætte, mens de tjekker de rette felter undervejs. Privatliv som design er meget lettere end at forsøge at rulle et system tilbage, efter kundedata allerede er blevet behandlet.

Dette er vigtigt, fordi privatlivsteams ofte er små, selv i verdens største virksomheder. Disse små men kraftfulde teams kan ikke manuelt følge hver kundes valg på tværs af alle applikationer. De har brug for systemer, der er fleksible, nemme at bruge og i stand til at transportere tilladelser gennem hele virksomheden.

Privatlivsfagfolk har også brug for selvtillid til at forklare deres arbejde i forretningsmæssige termer. De sidder mellem virksomheden og kunden og kan hjælpe begge parter med at få mere værdi ud af relationen.

Revisionssporet skal nå AI-beslutningen

Når en AI-drevet beslutning sættes under spørgsmål, skal virksomheden kunne rekonstruere, hvad der skete. Det inkluderer at identificere, hvilke kundedata der blev brugt, hvad kunden havde accepteret, hvilken meddelelse de modtog, og om den seneste valg var nået systemet, før det handlede. Etableret AI-retningslinjer understreger dokumentation af data, systemkrav og beslutninger gennem hele AI-levetiden.

Denne dokumentation understøtter regulatoriske forespørgsler, men den har også praktisk værdi. Privatliv, marketing, kundeoplevelse og datateams skal forstå, hvorfor noget gik galt, identificere hvilke systemer der faldt ud af sync, og rette processen.

At indfange samtykke er ikke det samme som at bevise det senere. En registrering bliver meget sværere at rekonstruere, efter at data er flyttet gennem flere systemer og har påvirket en automatiseret handling.

Tillid bygges eller brydes én interaktion ad gangen

Tillid kan lyde som et buzzword, men det er grundlaget for enhver kundeforhold. Hver interaktion gør forholdet lidt bedre eller lidt værre, uanset om virksomheden er klar over det eller ej.

Efterhånden som adoptionen vokser, får virksomheder flere muligheder for at skabe værdi, men også flere muligheder for små governance-huller, der kan påvirke kunderne. Før en kundeorienteret AI-applikation skaleres, bør ledere forstå, hvilke data den vil bruge, hvilke tilladelser der gælder, og hvor hurtigt en kundes opdaterede valg når systemet.

En anbefaling bør ikke baseres på information, som kunden ikke forventede at blive brugt. En besked bør ikke leveres via en kanal, som kunden har afvist. Et automatiseret system bør ikke handle blot fordi dataene er tilgængelige.

Kunder fortæller allerede organisationerne, hvad de ønsker. Det næste skridt er at sikre, at AI-systemerne, der handler på deres data, er i stand til at lytte.