Agentic AI’s “Personlige Digitale Dobbeltgængere” Kræver en Evolution i Identitetsverifikation

Amazons annoncering af sin ” Køb for mig “-funktion var et dristigt træk, der signalerede det virkelige potentiale for agentic AI i e-commerce. Ved at aktivere AI-agenter til at købe produkter direkte fra andre websteder, når disse produkter ikke er tilgængelige på Amazon, positionerer virksomheden sig selv som den førende leverandør af højtydende og tilfredsstillende shoppingoplevelser.

Agentic AI – hvor autonome agenter handler på vegne af rigtige brugere – er på vej mod hurtig virksomhedsadoption, især i en B2B-kontekst. Forestil dig en verden, hvor “B2B AI-agenter” kan handle mere mundane virksomhedsopgaver uden menneskelig indgriben.

Agentic AI er også god nyhed i forbrugerdomænet, med “B2C AI-agenter”, der tilbyder betydelige muligheder for forbrugere at spare tid og anstrengelse i deres daglige liv. Overvej en “købsagent”, der kan hjælpe online-shoppere med at finde de bedste tilbud, overvåge prisfald, automatisere køb, håndtere returneringer og foretage rejsebookinger. Mulighederne i forskellige brancher synes endeløse:

• Personlig økonomi og formueforvaltning – Tænk på AI-agenter, der kan uafhængigt udføre finansielle strategier, genrede portfolios, finde optimale rentesatser til sparepenge og endda håndtere skattemæssige forpligtelser.
• Kundeservice og support (for personer) – I stedet for at ringe til en hjælpelinje eller chatte med en bot, kan en personlig Agentic AI kommunikere direkte med et selskabs Agentic AI for at løse problemer, klargøre ordrer eller foretage ændringer. Dette fjerner behovet for personer at gentage information eller navigere komplekse IVR-systemer.
• Sundhedspleje – AI-agenter vil være i stand til at håndtere aftaler, bestille recepter, indsende forsikringsansøgninger og endda proaktivt søge efter anden mening eller analysere medicinsk forskning på vegne af patienter.

At adoptere agentic AI giver websteder mulighed for at skille sig ud gennem exceptionel brugerbehandling og oplevelser. Men på den anden side er agentic AI meget sårbar over for svindel. Forskning viser, at bots udgør mellem 40 og 50 procent af al webtrafik, med omkring 65 procent af disse bots, der anses for at være skadelige. Agentic AI er i virkeligheden en måde for almindelige forbrugere at bruge bots, og svindlere – der ofte udnytter bots i stor målestok for at muliggøre operationer i stor skala – vil nu have en meget lettere tid med at skjule sig i plain sight blandt legitime agentic-trafik.

På et grundlæggende niveau vil evnen til at skelne mellem disse skadelige og legitime bots i stor skala være en afgørende faktor for at skelne mellem lederne i agentic AI-kapløbet. I en agentic verden vil maskiner få agentur og vil gå ned ad samme “cyber-gader” som os mennesker.

Men er e-handelslandskabet parat?

Agentic AI vil kræve en omdefinering eller en udvidelse af den online identitetsverifikationsramme, som den er kendt i dag, hvilket igen vil kræve, at løsningsudbydere bliver bedre til, hvad de allerede gør. Indtil nu har denne ramme været centreret om tre spørgsmål:

• Er denne person rigtig? Den hurtige spredning af deepfakes kræver liveness-checks for alle højrisikotransaktioner, for at sikre, at de er initieret af en rigtig, levende person. I konteksten af agentic AI kan svaret være, “nej, jeg er ikke en person”, men det betyder ikke, at liveness er irrelevant. Liveness-detection skal altid være en del af biometriske checks, der foretages på højrisikopunkter i en brugers rejse, for at sikre, at en menneske er i loopet – såsom når en konto oprettes, penge overføres eller konto-genoprettelse anmodes (“Jeg har glemt min adgangskode”).
• Er denne person pålidelig? Dette er evnen til at bestemme, om brugeren er en svindler, en fremtidig VIP-kunde eller noget imellem, hvilket ofte indebærer at kontrollere mod offentlige databaser. For eksempel ville en person, der forsøger at booke bolig på en online lejeportal, blive markeret som højrisiko, hvis han/hun har en kendt kriminel historie af besættelse eller ejendomsskade.
• Er dette stadig personen bag kontoen? Dette refererer til kontinuerlig, vedvarende autentificering – eller sikring af, at personen, hvis identitet blev verificeret ved login, stadig er der, og forhindrer konto-overtagelse af andre mennesker.

Agentic AI tilføjer et fjerde spørgsmål – har denne agent autoritet til at handle som den rigtige brugers stedfortræder? Dette spørgsmål om autoritet er kritisk, og bekræfter omfanget og varigheden af den menneskelige autorisation for AI-agenten til at handle som hans/hendes stedfortræder, i overensstemmelse med konteksten. Dette handler ikke kun om, at en menneske delegerer en opgave; det handler om at sikre, at en AI-agent besidder specifikke, tilbagekaldelige, kontekst-bevidste menneske-afledte tilladelser. Alle AI-agent-handlinger skal være tilbageførbare til en rigtig, legitim menneske; dette er nøglen til, at B2C-sites kan implementere agentic AI på en sikker og ansvarlig måde.

Ifølge en nyeste estimat var AI ansvarlig for omkring 20 procent af svindelen, der blev begået i 2024 på tværs af alle sektorer, og dette tal forventes kun at stige, da hackere anvender nye metoder. Ud over, at maliciøse AI-agenter ligner legitime, er et andet eksempel agent-hijacking, eller når en angriber indgriber i, hvordan en agent opfatter information eller tager beslutninger. Så ud over at verificere legitimiteten og autoriteten af AI-agenter, er det også kritisk at kontrollere integriteten af agenter for at sikre, at de ikke er blevet manipuleret.

Gartner dæmpede sine stærke forudsigelser for agentic AI-vækst med en vigtig forbehold: over 40 procent af agentic AI-projekter vil blive annulleret inden udgangen af 2027. Dette var en skarp vækkelsesoplevelse – et tegn på, at mange organisationer undervurderer kompleksiteten af agentic AI-implementeringer, især behovet for at sikre tilstrækkelige risikokontroller. Mens der er mange måder, hvorpå agentic AI-agenter kan udnyttes til at forårsage skade, er evnen til at verificere legitimitet og autoritet en grundlæggende, basal skridt for at minimere risikoen. Heldigvis er det, der kræves, ikke en genopfindelse, men en evolution – en udvidelse af de beprøvede online identitetsverifikationsrammer, der eksisterer i dag.