Le “Doppi Digitali Personalizzati” di Agentic AI richiederanno un’evoluzione della verifica dell’identità

L’annuncio di Amazon della sua funzione “Acquista per me” è stato un passo audace che segnala il potenziale reale dell’AI agente nel commercio elettronico. Abilitando gli agenti AI a comprare prodotti direttamente da altri siti web quando questi non sono disponibili su Amazon, l’azienda si sta posizionando come il principale fornitore di esperienze di shopping estremamente comode e soddisfacenti.

L’AI agente – dove gli agenti autonomi agiscono per conto di utenti reali – è sulla strada per un’adozione rapida a livello aziendale, in particolare in un contesto B2B. Immagina un mondo in cui “agenti AI B2B” operanti in vari ruoli (come servizio clienti, vendite, catena di approvvigionamento, operazioni IT, finanza e risorse umane) possano agire su compiti aziendali più mundani senza intervento umano.

L’AI agente è anche una notizia positiva nel settore dei consumatori, con “agenti AI B2C” che offrono opportunità significative per i consumatori di risparmiare tempo e fatica nella loro vita quotidiana. Considera un “agente acquirente” che possa aiutare gli acquirenti online a trovare le migliori offerte, monitorare le riduzioni di prezzo, automatizzare gli acquisti, gestire le restituzioni e prenotare viaggi. Le possibilità in vari settori sembrano infinite:

• Gestione finanziaria e patrimoniale – Pensa a agenti AI che possano eseguire autonomamente strategie finanziarie, riequilibrare portafogli, trovare tassi di interesse ottimali per i risparmi e persino gestire le dichiarazioni dei redditi.
• Servizio clienti e supporto (per individui) – Invece di chiamare una linea di aiuto o chattare con un bot, un Agentic AI personale può comunicare direttamente con l’Agentic AI di un’azienda per risolvere problemi, chiarire ordini o apportare modifiche. Ciò elimina la necessità per gli individui di ripetere informazioni o navigare in sistemi IVR complessi.
• Sanità – Gli agenti AI saranno in grado di gestire appuntamenti, ordinare prescrizioni, presentare richieste di assicurazione e persino cercare pareri medici o analizzare ricerche mediche per conto dei pazienti.

Adottare l’AI agente offre ai siti web l’opportunità di differenziarsi attraverso un’eccezionale convenienza e esperienza utente. Tuttavia, dall’altra parte della medaglia, l’AI agente è estremamente vulnerabile alle frodi. La ricerca mostra che i bot compongono tra il 40 e il 50 percento di tutto il traffico web, con circa il 65 percento di questi bot ritenuti maligni. L’AI agente è essenzialmente un modo per i consumatori normali di utilizzare i bot, e i truffatori – che spesso utilizzano i bot in grandi quantità per abilitare operazioni su larga scala – avranno ora un tempo molto più facile per nascondersi in plain sight tra il traffico agente legittimo.

A livello fondamentale, la capacità di distinguere tra questi bot maligni e legittimi su larga scala sarà un fattore chiave per distinguere i leader nella corsa all’AI agente. In un mondo agente, le macchine saranno dotate di agenzia e percorreranno gli stessi ” corridoi cyber” degli esseri umani.

Ma il paesaggio del commercio elettronico è pronto?

L’AI agente richiederà una rielaborazione o un’estensione del quadro di verifica dell’identità online come è noto oggi, che a sua volta richiederà ai fornitori di soluzioni di continuare a migliorare ciò che stanno già facendo. Fino ad oggi questo quadro è stato centrato su tre domande:

• È questa persona reale? La rapida proliferazione di deepfake sta richiedendo controlli di vivacità per tutte le transazioni ad alto rischio, assicurando che siano iniziate da una persona reale e viva. Nel contesto dell’AI agente, la risposta potrebbe essere: “no, non sono una persona”, ma ciò non significa che la vivacità sia irrilevante. La rilevazione della vivacità dovrebbe sempre essere parte dei controlli biometrici che si verificano in punti ad alto rischio nel percorso dell’utente, per assicurarsi che un essere umano sia nella catena – ad esempio quando un account viene creato, denaro viene trasferito o la ripristino dell’account viene richiesto (“Ho dimenticato la mia password”).
• È questa persona degna di fiducia? Ciò si riferisce alla capacità di determinare se l’utente è un truffatore, un futuro cliente VIP o qualcosa di intermedio, il che spesso coinvolge il controllo contro database pubblici. Ad esempio, qualcuno che tenta di prenotare un alloggio su un mercato di noleggio online potrebbe essere segnalato come ad alto rischio se ha una storia criminale nota di occupazione abusiva o distruzione di proprietà.
• È ancora questa persona dietro l’account? Ciò si riferisce all’autenticazione continua e perpetua – o assicurarsi a intervalli regolari che la persona la cui identità è stata verificata al login sia ancora presente, prevenendo l’acquisizione dell’account da parte di altri esseri umani.

L’AI agente aggiunge una quarta domanda – questo agente ha l’autorità di agire come proxy dell’utente reale? La questione dell’autorità è critica, confermando il ambito e la durata dell’autorizzazione umana per l’agente AI per agire come suo proxy, in conformità con il contesto. Ciò non riguarda solo un essere umano che delega un compito; si tratta di assicurarsi che un agente AI possieda autorizzazioni umane specifiche, revocabili e consapevoli del contesto. Tutte le azioni dell’agente AI devono essere riconducibili a un essere umano reale e legittimo; questo è la chiave per i siti B2C che utilizzano l’AI agente in modo sicuro e responsabile.

Secondo una recente stima, l’AI è stata dietro circa il 20 percento delle frodi perpetrate nel 2024 in tutti i settori, e questo numero è destinato a crescere poiché gli hacker utilizzano nuove tecniche. Oltre agli agenti AI maligni che impersonano quelli legittimi, un altro esempio è il dirottamento dell’agente, o quando un attaccante interferisce con il modo in cui un agente percepisce le informazioni o prende decisioni. Quindi, oltre a verificare la legittimità e l’autorità degli agenti AI, è anche fondamentale controllare l’integrità degli agenti per assicurarsi che non siano stati manomessi.

Gartner ha temperato le sue previsioni molto positive per la crescita dell’AI agente con una importante precisazione: oltre il 40 percento dei progetti di AI agente sarà cancellato entro la fine del 2027. Ciò è stato un forte richiamo – un segno che molte organizzazioni sottovalutano la complessità delle implementazioni di AI agente, in particolare la necessità di garantire controlli di rischio adeguati. Mentre ci sono molti modi in cui gli agenti AI agente possono essere sfruttati per causare danni, la capacità di verificare la legittimità e l’autorità è un passo fondamentale per minimizzare il rischio. Fortunatamente, ciò che è richiesto non è una reinvenzione, ma un’evoluzione – un aumento dei quadri di verifica dell’identità online provati che esistono oggi.