Jim Rowan, USA-chef for AI hos Deloitte – interviewserie

Jim Rowan er chef for AI i USA hos Deloitte og partner i Deloitte Consulting LLP. Han hjælper organisationer med at omsætte deres AI-ambitioner til forretningsresultater. Hans karriere spænder over virksomhedsteknologi, analyse, data og digital transformation, og han har erfaring fra life science, sundhedsvæsenet og telekommunikation. Han har haft ledende roller i Deloittes Strategy & Analytics- og AI & Data-praksisser, og hans arbejde omfatter udvikling af de kompetencer og den talentmasse, som organisationer har brug for til at indføre AI.

Deloitte er en organisation inden for professionelle tjenesteydelser, der leverer konsulentydelser, revision og erklæringsydelser, skatterådgivning og andre rådgivningsydelser. Deloittes AI-arbejde samler strategi, data, teknologi, talent og governance for at hjælpe virksomheder med at indføre AI og udbrede brugen af teknologien på tværs af deres aktiviteter. Inden for digital handel omfatter dette arbejde klargøring af produktoplysninger og virksomhedssystemer til AI-agenter, sammenkobling af kundeoplevelser på tværs af kanaler samt etablering af de identitets-, autorisations- og tillidskontroller, der er nødvendige for automatiserede interaktioner og transaktioner.

Du har arbejdet på tværs af virksomhedsteknologi, analyse, data og nu AI hos Deloitte i mere end to årtier. Hvornår blev det ud fra dit perspektiv klart, at AI-agenter ikke blot ville forandre den måde, virksomheder fungerer internt på, men også blive et mellemled mellem virksomheder og deres kunder?

I løbet af de seneste år har jeg på nært hold set AI udvikle sig, samtidig med at jeg har hjulpet organisationer med at omsætte forretningsmål til målbare resultater, der tidligere virkede ufattelige. Min baggrund inden for data, processer og teknologi har været grundlæggende for min forståelse af AI. Jeg begyndte at opbygge Deloittes kompetencer med fokus på de medarbejdere, der skal til for at få succes med AI, blandt andet gennem vores AI Academy, som udvikler undervisningsmateriale til både vores medarbejdere og kunder.

I det nuværende landskab bruger organisationer AI-agenter til at forandre deres strategier for digital handel på flere måder: De øger brands synlighed, bruger personaliseringsmotorer til at forbedre dialogen og skaber sammenhængende oplevelser på tværs af fysiske, digitale og sociale kontaktpunkter. Dette vendepunkt indtræffer på et tidspunkt, hvor brands navigerer i et ustabilt marked, hvilket giver mulighed for, at handel via AI-agenter kan hjælpe dem med at reagere hurtigere og mere relevant og konsekvent over for kunderne.

Du har talt om, at virksomheder er nødt til at forberede sig på »agentbaseret søgeoptimering«. Hvordan definerer du begrebet, og hvordan adskiller optimering til en AI-agent sig grundlæggende fra traditionel SEO eller de nyere tilgange til optimering af indhold til AI-baserede svarmotorer?

Traditionelt har konkurrencen om forbrugernes opmærksomhed på nettet været defineret af søgemaskineoptimering (SEO), som forudsætter, at der i den anden ende af en søgning sidder et menneske, der læser, vurderer og beslutter, hvad det vil købe. I takt med at forbrugerne i stigende grad bruger AI-værktøjer til research, er generativ motoroptimering (GEO) kommet til. Agentbaseret søgeoptimering er en videreudvikling af GEO, der tager højde for, at AI ikke længere kun anbefaler produkter eller tjenester, men også handler på baggrund af købsbeslutningerne. Det betyder, at brands ikke kun skal optimere til generativ AI, som primært kommer med anbefalinger til slutbrugeren, men også til agentbaseret AI, der er udviklet til at udføre handlinger og kan koordinere systemer, gennemføre arbejdsgange og igangsætte transaktioner.

Når en AI-agent bliver bedt om at undersøge, sammenligne og udvælge produkter eller tjenester, hvilke signaler forventer du så, at den lægger størst vægt på? Bliver strukturerede produktoplysninger, priser, anmeldelser, omtale fra tredjeparter, brandets autoritet eller en helt ny samling signaler vigtigere?

En AI-agent sammensætter sit udvalg af brands ud fra synlighed og relevans og vil foretrække brands, hvis produkter, tjenester, priser og data er tilgængelige, maskinlæsbare og umiddelbart verificerbare. Konsistens på tværs af platforme, bedømmelser og anmeldelser samt brandets autoritet er fortsat vigtig, men disse signaler skal også kunne omsættes til data, som en agent kan analysere. Den personlige kontekst får også betydning, for agenter, der handler på kundernes vegne, skal have pålidelig adgang til den enkelte persons præferencer, tilladelser og tidligere interaktioner for at kunne generere de mest relevante anbefalinger. Ud over selve signalerne bliver det afgørende for et brand, hvor hurtigt organisationer kan gøre deres data læsbare, forståelige, troværdige og kvantificerbare i termer, som en agent kan sammenligne.

En udfordring er, at der med tiden kan komme tusindvis af forbruger- og virksomhedsagenter, som bygger på forskellige modeller og er forbundet med forskellige datakilder. Hvordan kan en virksomhed sikre, at den fortsat bliver repræsenteret korrekt og er let at finde i dette fragmenterede økosystem uden at forsøge at optimere til hver enkelt agent?

Organisationers fokus bør være at skabe et pålideligt, maskinlæsbart grundlag, som alle agenter kan tilgå og fortolke, frem for at optimere til enkelte agenter. Det indebærer, at man offentliggør verificerbare, pålidelige og aktuelle oplysninger om produkter, priser og politikker via autoritative kilder. Det er sandsynligvis ikke nok, at oplysningerne er lette at finde, for agenter vil begynde at handle på forbrugernes vegne. Derfor bliver der i endnu højere grad brug for systemer, der gør det muligt at verificere identitet, bekræfte berettigelse og gennemføre sikre transaktioner. I et agentøkosystem, der nu er fragmenteret, vil de brands, der gør deres oplysninger lettest at forstå og finde, komme øverst i søgeresultaterne. Virksomheder bør dog undgå at bygge på én enkelt protokol, da protokollerne stadig er under udvikling, og det endnu ikke står klart, hvilken der bliver dominerende. Derfor er det vigtigt at designe med henblik på interoperabilitet og mulighed for hurtigt at indføre eller skifte protokol, efterhånden som økosystemet udvikler sig.

Hvis handel udvikler sig fra business-to-consumer til business-to-agent-to-business, hvad ændrer sig så på det tekniske plan? Bliver virksomheder nødt til at gentænke websites, API’er, produktkataloger, identitetssystemer eller anden infrastruktur, så agenter kan interagere direkte med dem?

Ja, organisationer bliver nødt til at gentænke og omforme deres nuværende systemer for at opbygge den rette tekniske arkitektur til B2B-handel drevet af agenter. Det sker ikke fra den ene dag til den anden; det tager tid på grund af arbejdsomfanget og de omfattende ændringer, det indebærer. I dag udvikler mulighederne for produktopdagelse og betaling sig hurtigere end beslutningsfasen, hvor virksomhederne stadig er ved at opbygge tillid til at lade agenter træffe valg inden for fastlagte rammer. CIO’ers, CTO’ers og CISO’ers fokus bør være at levere skalerbare integrationsplatforme med lav latenstid, understøttet af stærke partnerskaber med teknologileverandører og integrationspartnere. I stedet for at udskifte hele systemet bør ledere bruge tid på at finde ud af, hvilke systemer der kan forbindes med agenter, identificere dem, der er blokeret, og afprøve enkle opgaver i afgrænsede miljøer. Det er også vigtigt, at mennesker fortsat har ejerskab over transaktionen. Derfor bør virksomheder skabe fleksible forløb, hvor kunden nemt kan skifte mellem agentstyrede og menneskestyrede interaktioner, frem for at forringe den menneskelige oplevelse i jagten på automatisering. Med tiden kan organisationer gå videre til at opbygge en platform, der administrerer flere agenter, opgradere ældre systemer eller forbinde dem, så agenter får adgang, og indføre avanceret sikkerhed med overvågning i realtid.

Traditionel digital markedsføring er i høj grad blevet optimeret efter placeringer, visninger, klik og trafik til websites. Hvis agenter i stigende grad står for researchen, før en person overhovedet besøger et website, hvilke nye målinger bør virksomheder så bruge til at forstå, om de rent faktisk er synlige og konkurrencedygtige i købsrejsen med agenter?

Historisk set har man målt succes på evnen til at fange forbrugernes opmærksomhed og i sidste ende vinde deres tillid. Efterhånden som agenter overtager en større del af købsrejsen, får organisationer brug for nye måder at måle, om deres brands er synlige, relevante og i sidste ende bliver valgt. Det indebærer, at udviklingen af brandede agenter kobles til måling af resultater, så man kan vurdere, om en agent fremhæver brandet, genkender relevante tilbud og gennemfører en transaktion. Brands bør fokusere på deres egne købere frem for konkurrenterne, når de skal beslutte, hvor de vil investere, eller hvilke ændringer de vil foretage i kundeoplevelsen. De bør følge med i, hvordan kunder opdager produkter, hvor de falder fra, og hvor de bliver. Disse målinger kan ikke alene hjælpe brands med at skille sig ud gennem deres værditilbud, men også dokumentere investeringsafkastet med målbare resultater, der styrker kundeloyaliteten og den operationelle effektivitet.

AI-agenter kan opsummere oplysninger om en virksomhed, sammenligne den med konkurrenterne og potentielt komme med anbefalinger, uden at virksomheden har direkte kontrol over, hvordan den fremstilles. Hvordan bør brands overvåge unøjagtige eller forældede oplysninger og etablere en autoritativ sandhedskilde, som agenter pålideligt kan bruge?

Som i alle andre brancher er det afgørende at kontrollere produktdata for at bevare synligheden for agenter på tværs af kanaler. Brands bør også overveje Model Context Protocol (MCP) som en vigtig forudsætning, da protokollen skaber et kontrolleret miljø, hvor data, værktøjer og kontekst deles sikkert med eksterne shoppingagenter og platforme. Kombinationen af strukturerede data og Model Context Protocol kan muliggøre interaktioner mellem agenter, forbedre interoperabiliteten og bidrage til, at brandoplysninger gengives korrekt og prioriteres hensigtsmæssigt. Da protokollerne stadig er under udvikling, og det endnu ikke står klart, hvilken der bliver mest udbredt, bør virksomheder igen bygge fleksibilitet ind, så de hurtigt kan oprette forbindelse til, skifte mellem og indføre nye standarder, efterhånden som økosystemet udvikler sig.

Efterhånden som agenter går fra blot at anbefale produkter til også at udføre handlinger som at indhente tilbud, forhandle vilkår eller foretage køb, hvor vigtig bliver infrastrukturen for identitet, autorisation og tillid så? Hvordan skelner en virksomhed mellem en legitim kundeagent og et automatiseret system, den ikke bør have tillid til?

Handel mellem agenter indebærer nye risici, fordi transaktioner kan gennemføres hurtigt uden menneskelig indblanding. Derfor er det afgørende, at mennesker kan gribe ind, og at der er mulighed for overdragelse undervejs i processen. Handel drevet af agenter kræver nye former for svindelforebyggelse, strategiske finansielle kontroller og målrettede rapporteringsrammer, der er specifikt udviklet til aktiviteter igangsat af maskiner.

På kort sigt bør organisationer behandle deres AI-agenter som medarbejdere med klart definerede ansvarsområder, styret adgang og tydeligt ansvar. De får også brug for protokoller til at verificere legitime agenter, godkende betalinger og håndhæve transaktionsgrænser, API-tilladelser og andre operationelle sikkerhedsforanstaltninger.

Der er også mulighed for, at reklamer og betalt placering vil følge forbrugerne ind i det agentbaserede økosystem. Hvordan ser du de kommercielle incitamenter udvikle sig, når en AI-agent anbefaler produkter på nogens vegne, og hvilken gennemsigtighed vil være nødvendig, for at folk kan have tillid til anbefalingerne?

Vi ser allerede kapital blive omdirigeret til agentbaseret handel, og amerikanske annoncører forventes at bruge omkring 26 milliarder dollars på AI-søgeannoncer inden 2029. Det er uundgåeligt, at de kommercielle incitamenter må udvikle sig, efterhånden som virksomheder beslutter, om kampagner og priser, der tilbydes gennem deres egne kanaler, også skal gælde i agentbaserede miljøer. En del af denne udvikling kræver tydelige regler for, hvordan agenter interagerer med priser og kampagner. Uden sikkerhedsforanstaltninger kan agenter gennemføre køb på grundlag af de priser, der er tilgængelige på transaktionstidspunktet, hvilket potentielt kan udløse utilsigtede kampagner og prisniveauer og føre til marginlækage. Virksomheder bør indføre politikker, der er i overensstemmelse med globale standarder for privatliv og data samt med menneskestyrede, forhåndsgodkendte parametre for hver kunde.

Selv om automatiseringen tager til, har du understreget, at menneskelig dømmekraft fortsat vil være central for købsbeslutninger. Hvor mener du, grænsen går mellem de beslutninger, som forbrugerne trygt vil overlade til agenter, og dem, hvor folk stadig selv ønsker at undersøge mulighederne, sammenligne dem og træffe den endelige beslutning?

Grænsen afhænger af, hvor meget der står på spil, og hvor stor tillid forbrugeren har til agenten. Folk vil måske være trygge ved at overlade rutineprægede køb til lave priser til en agent, når deres præferencer er tydelige, og konsekvenserne af et dårligt valg er små. Ved beslutninger, der indebærer større udgifter, følsomme oplysninger eller kontraktlige forpligtelser, vil de sandsynligvis forvente større indsigt og beholde den endelige godkendelse. Forbrugerne vil blive mere trygge ved et brand, når friktionen mindskes, så det bliver let at forstå, hvad der foregår, og have tillid til, at transaktionen gennemføres som tilsigtet og sikkert. Brands bør derfor give forbrugerne tydelig kontrol over, hvad en agent kan gøre på egen hånd, hvornår den skal bede om tilladelse, og hvor nemt dens handlinger kan gennemgås eller omgøres.

Tak for det gode interview. Læsere, der ønsker at udforske agentbaseret handel, AI-drevet synlighed og den tillidsinfrastruktur, der ligger bag automatiserede køb, bør besøge Deloitte.