Agentic AI:s “Personliga Digitala Dubletter” Kräver en Utveckling av Identitetsverifiering

Amazons tillkännagivande av sin funktion “Köp för mig” var ett modigt drag som visade på den verkliga potentialen för agentic AI i e-handel. Genom att möjliggöra för AI-agenter att sömlöst köpa produkter direkt från andra webbplatser när dessa artiklar inte finns tillgängliga på Amazon, positionerar företaget sig som den främsta leverantören av högt bekväma och tillfredsställande shoppingupplevelser.

Agentic AI – där autonoma agenter agerar på uppdrag av verkliga användare – är på väg för snabb företagsanvändning, särskilt i ett B2B-sammanhang. Tänk er en värld där “B2B AI-agenter” som opererar i olika kapaciteter (såsom kundtjänst, försäljning, leverantörskedja, IT-drift, ekonomi och HR) kan vidta åtgärder på mer vardagliga företagsuppgifter utan mänskligt ingripande.

Agentic AI är också välkommen nyhet i konsumentvärlden, med “B2C AI-agenter” som erbjuder betydande möjligheter för konsumenter att spara tid och ansträngning i sina dagliga liv. Tänk er en “köparens agent” som kan hjälpa online-shoppare att hitta de bästa erbjudandena, övervaka prissänkningar, automatisera inköp, hantera returer och boka resor. Möjligheterna över olika branscher verkar oändliga:

• Personlig ekonomi och förmögenhetsförvaltning – Tänk er AI-agenter som kan autonomt genomföra finansiella strategier, omfördela portföljer, hitta optimala räntor för besparingar och till och med hantera skattedeklarationer.
• Kundtjänst och support (för individer) – Istället för att ringa en hjälp linje eller chatta med en bot, kan en personlig Agentic AI kommunicera direkt med ett företags Agentic AI för att lösa problem, förtydliga beställningar eller göra ändringar. Detta tar bort behovet för individer att upprepa information eller navigera i komplexa IVR-system.
• Hälsovård – AI-agenter kommer att kunna hantera tidsbokningar, beställa recept, lämna in försäkringsanspråk och till och med proaktivt söka en second opinion eller analysera medicinsk forskning på uppdrag av patienter.

Att anta agentic AI erbjuder webbplatser möjligheten att särskilja sig genom exceptionell användarbequemhet och upplevelser. Men på den andra sidan av myntet är agentic AI mycket sårbar för bedrägeri. Forskning visar att botar utgör mellan 40 och 50 procent av all webbtrafik, med cirka 65 procent av dessa botar som anses vara skadliga. Agentic AI är i princip ett sätt för vanliga konsumenter att använda botar, och bedragare – som ofta använder botar i stor volym för att möjliggöra operationer i stor skala – kommer nu att ha mycket lättare att dölja sig i det legitima agentic-trafiken.

På en grundläggande nivå kommer förmågan att skilja mellan dessa skadliga och legitima botar i stor skala att vara en nyckelfaktor för att skilja ledarna i agentic AI-löpningen. I en agentic värld kommer maskiner att ges agentur och kommer att gå längs samma “cyber-aisles” som vi människor.

Men är e-handelslandskapet redo?

Agentic AI kommer att kräva en omprövning eller en utvidgning av den online-identitetsverifieringsram som finns idag, vilket i sin tur kommer att kräva att lösningstillverkare fortsätter att förbättra sig i det de redan gör. Hittills har denna ram varit centrerad kring tre frågor:

• Är denna person verklig? Den snabba spridningen av deepfakes kräver livskontroller för alla högrisktransaktioner, för att säkerställa att de initieras av en verklig, levande person. I sammanhanget med agentic AI kan svaret vara, “nej, jag är inte en person”, men det betyder inte att livskontrollen är irrelevant. Livskontroll bör alltid vara en del av biometriska kontroller som sker vid högriskpunkter i en användarresa, för att säkerställa att en människa är i loop – såsom när ett konto skapas, pengar överförs eller kontorecovery begärs (“Jag glömde mitt lösenord”).
• Är denna person pålitlig? Detta är förmågan att avgöra om användaren är en bedragare, en framtida VIP-kund eller något däremellan, vilket ofta innebär att kontrollera mot offentliga databaser. Till exempel skulle en person som försöker boka boende på en online-uthyrningsmarknad flaggas som högrisk om han/hon har en känd brottslig historia av trångboddhet eller egendomsdestruktion.
• Är denna fortfarande personen bakom kontot? Detta hänvisar till kontinuerlig, evig autentisering – eller att säkerställa att personen vars identitet verifierades vid inloggning fortfarande är där, för att förhindra kontotillägrepp av andra människor.

Agentic AI lägger till en fjärde fråga – har denna agent behörighet att agera som den verkliga användarens proxy? Denna fråga om behörighet är kritisk, eftersom den bekräftar omfattning och varaktighet av den mänskliga auktorisationen för AI-agenten att agera som hans eller hennes proxy, i enlighet med sammanhanget. Detta handlar inte bara om att en människa delegerar en uppgift; det handlar om att säkerställa att en AI-agent besitter specifika, återkallbara, kontextmedvetna mänskliga tillstånd. Alla AI-agentåtgärder måste vara spårbara till en verklig, legitim människa; detta är nyckeln till att B2C-sajter distribuerar agentic AI på ett säkert och ansvarsfullt sätt.

Enligt en nylig uppskattning var AI ansvarig för cirka 20 procent av bedrägerierna som begicks 2024 över alla sektorer, och denna siffra förväntas öka när hackare distribuerar nya tekniker. Utöver skadliga AI-agenter som imiterar legitima agenter är ett annat exempel agent-kapning, eller när en angripare ingriper i hur en agent uppfattar information eller fattar beslut. Så utöver att verifiera legitimiteten och behörigheten för AI-agenter är det också kritiskt att kontrollera integriteten hos agenter för att säkerställa att de inte har manipulerats.

Gartner dämpade sina starka förutsägelser för agentic AI-tillväxt med en viktig varning: över 40 procent av agentic AI-projekt kommer att avbrytas senast 2027. Detta var ett starkt väckarklockslag – ett tecken på att många organisationer underskattar komplexiteten i agentic AI-implementationer, särskilt behovet av att säkerställa tillräckliga riskkontroller. Medan det finns många sätt som agentic AI-agenter kan utnyttjas för att orsaka skada, är förmågan att verifiera legitimitet och behörighet en grundläggande, grundläggande steg för att minimera risk. Lyckligtvis krävs det inte en uppfinning, utan en utveckling – en utvidgning av de beprövade online-identitetsverifieringsramar som finns idag.