Dublele digitale personale ale AI Agentic vor necesita o evoluție a verificării identității

Anunțul Amazon privind lansarea funcției “Cumpără pentru mine” a fost o mișcare îndrăzneață care semnalează potențialul real al AI agentic în comerțul electronic. Permițând agenților AI să cumpere produse direct de pe alte site-uri web atunci când acestea nu sunt disponibile pe Amazon, compania se poziționează ca principalul furnizor de experiențe de cumpărături extrem de convenabile și satisfăcătoare.

AI agentic – unde agenții autonomi acționează în numele utilizatorilor reali – este pe cale să adopte rapid la nivelul întreprinderilor, în special în contextul B2B. Imaginați-vă o lume în care “agenții AI B2B” care operează în diverse capacități (cum ar fi serviciul clienți, vânzări, lanțul de aprovizionare, operațiuni IT, finanțe și resurse umane) pot acționa asupra unor sarcini enterprise mai puțin importante fără intervenție umană.

AI agentic este, de asemenea, o veste bună în domeniul consumatorilor, “agenții AI B2C” oferind oportunități semnificative pentru consumatori de a-și economisi timpul și efortul în viața de zi cu zi. Luați în considerare un “agent de cumpărături” care poate ajuta cumpărătorii online să găsească cele mai bune oferte, să monitorizeze scăderile de preț, să automatizeze cumpărăturile, să gestioneze retururile și să facă rezervări de călătorie. Posibilitățile par a fi nelimitate:

• Finanțe personale și gestionarea bogăției – Gândiți-vă la agenții AI care pot executa în mod autonom strategii financiare, reechilibra portofolii, găsi rate optime de dobândă pentru economii și chiar gestiona declarații de impozite.
• Serviciul clienți și suport (pentru indivizi) – În loc de a suna la un număr de asistență sau de a discuta cu un bot, un AI Agentic personal poate comunica direct cu AI Agentic al unei companii pentru a rezolva probleme, a clarifica comenzi sau a face modificări. Acest lucru elimină nevoia ca indivizii să repete informații sau să navigheze prin sisteme IVR complexe.
• Sănătate – Agenții AI vor putea gestiona programări, comanda medicamente, depune cereri de asigurare și chiar căuta opinii medicale sau analiza cercetărilor medicale în numele pacienților.

Adoptarea AI agentic oferă site-urilor web oportunitatea de a se diferenția prin conveniență și experiențe de utilizator excepționale. Cu toate acestea, pe partea cealaltă a monedei, AI agentic este extrem de vulnerabil la fraudă. Cercetările arată că boturile reprezintă între 40 și 50 la sută din toate traficul web, aproximativ 65 la sută dintre aceste boturi fiind considerate a fi maligne. AI agentic este, în esență, o modalitate prin care consumatorii obișnuiți pot utiliza boturi, iar fraudele – care adesea utilizează boturi în volume mari pentru a permite operațiuni la scară – vor avea acum o perioadă mult mai ușoară de a se ascunde în mijlocul traficului agentic legitim.

La nivel fundamental, capacitatea de a distinge între aceste boturi maligne și legitime la scară va fi un factor cheie în a distinge liderii în cursa AI agentic. Într-o lume agentică, mașinilor li se va acorda agenție și vor merge pe aceleași “alei cibernetice” ca și oamenii.

Dar este peisajul comerțului electronic pregătit?

AI agentic va necesita o reevaluare sau o extindere a cadrului de verificare a identității online, așa cum este cunoscut astăzi, ceea ce, la rândul său, va necesita furnizorii de soluții să continue să se îmbunătățească în ceea ce fac. Până în prezent, acest cadru s-a concentrat pe trei întrebări:

• Este această persoană reală? Răspândirea rapidă a deepfakes impune verificări de viabilitate pentru toate tranzacțiile cu risc ridicat, asigurându-se că acestea sunt inițiate de o persoană reală și vie. În contextul AI agentic, răspunsul poate fi “nu, nu sunt o persoană”, dar acest lucru nu înseamnă că verificarea viabilității este irelevantă. Detectarea viabilității ar trebui să fie întotdeauna parte a verificărilor biometrice care au loc în punctele cu risc ridicat ale parcursului utilizatorului, pentru a asigura că un om este în buclă – cum ar fi atunci când un cont este creat, bani sunt transferați sau recuperarea contului este solicitată (“Am uitat parola”).
• Este această persoană de încredere? Acesta este capacitatea de a determina dacă utilizatorul este un fraudator, un viitor client VIP sau ceva intermediar, ceea ce implică adesea verificarea împotriva bazelor de date publice. De exemplu, cineva care încearcă să rezerve o locuință pe o piață online de închiriere ar fi marcat ca risc ridicat dacă are o istorie penală cunoscută de ocupare ilegală sau distrugere de proprietăți.
• Este încă această persoană în spatele contului? Acesta se referă la autentificarea continuă, perpetuă – sau asigurarea, la intervale regulate, că persoana a cărei identitate a fost verificată la conectare este încă acolo, prevenind preluarea contului de către alți oameni.

AI agentic adaugă o a patra întrebare – are acest agent autoritatea de a acționa ca proxy al utilizatorului real? Problema autorității este critică, confirmând scopul și durata autorizării umane pentru ca agentul AI să acționeze ca proxy al său, în conformitate cu contextul. Acesta nu este doar despre delegarea unei sarcini de către un om; este despre a asigura că un agent AI posedă permisiuni specifice, revocabile, conștiente de context, derivate de la om. Toate acțiunile agenților AI trebuie să poată fi urmărite până la un om real și legitim; acesta este cheia pentru ca site-urile B2C să implementeze AI agentic într-un mod sigur și responsabil.

Conform unei estimări recente, AI a fost în spatele a aproximativ 20 la sută din frauda comisă în 2024 în toate sectoarele, iar acest număr este așteptat să crească pe măsură ce hackerii implementează tehnici noi. Pe lângă agenții AI maligni care se prezintă ca legitimi, un alt exemplu este preluarea agentului, sau atunci când un atacator interferează cu modul în care un agent percepe informații sau ia decizii. Așadar, pe lângă verificarea legitimității și autorității agenților AI, verificarea integrității agenților este, de asemenea, critică pentru a se asigura că aceștia nu au fost modificați.

Gartner a temperat previziunile sale puternice pentru creșterea AI agentic cu o rezervă importantă: peste 40 la sută din proiectele AI agentic vor fi anulate până la sfârșitul anului 2027. Acesta a fost un semnal de trezire puternic – un semn că multe organizații subestimează complexitatea implementărilor AI agentic, în special nevoia de a asigura controale de risc adecvate. În timp ce există multe modalități prin care agenții AI agentic pot fi exploatați pentru a cauza daune, capacitatea de a verifica legitimitatea și autoritatea este un pas fundamental, de bază, pentru minimizarea riscului. Din fericire, ceea ce se cere nu este o reinventare, ci o evoluție – o extindere a cadrului de verificare a identității online dovedit, care există astăzi.