Agentic AI “Osobní digitální dvojčata” budou vyžadovat evoluci ověření identity

Oznámení Amazonu o svém novém funkcím „Koupit za mě“ bylo smělé rozhodnutí, které signalizuje skutečný potenciál agentic AI v e-commerce. Tím, že umožňuje AI agentům nakupovat produkty přímo z jiných webových stránek, když tyto položky nejsou k dispozici na Amazonu, společnost se позиcionuje jako přední poskytovatel vysoce pohodlných a uspokojivých nákupních zkušeností.

Agentic AI – kde autonomní agenti jednají jménem skutečných uživatelů – je na cestě k rychlému přijetí v podnikovém prostředí, zejména v kontextu B2B. Představte si svět, kde „B2B AI agenti“ působí v různých kapacitách (jako zákaznická podpora, prodej, dodavatelský řetězec, IT operace, finance a HR) a mohou jednat na více rutinních podnikových úkolech bez zásahu člověka.

Agentic AI je také vítanou zprávou v oblasti spotřebitelů, kde „B2C AI agenti“ nabízejí významné příležitosti pro spotřebitele, aby ušetřili čas a úsilí ve svém denním životě. Zvažte „nákupního agenta“, který může pomoci online nakupujícím najít nejlepší nabídky, sledovat poklesy cen, automatizovat nákupy, zpracovat vrácení zboží a rezervovat cestování. Možnosti v různých odvětvích se zdají být nekonečné:

• Osobní finance a správa majetku – Představte si AI agenty, kteří mohou autonomně provádět finanční strategie, rebalancovat portfolia, najít optimální úrokové sazby pro úspory a dokonce spravovat daňové přiznání.
• Zákaznická podpora a support (pro jednotlivce) – Místo volání na linku podpory nebo chatu s botem může osobní Agentic AI komunikovat přímo s Agentic AI společnosti, aby řešil problémy, objasňoval objednávky nebo prováděl změny. Tím se odstraňuje potřeba, aby jednotlivci opakovali informace nebo procházeli komplexními systémy IVR.
• Zdravotnictví – AI agenti budou moci spravovat objednávky, předepisovat léky, podávat pojistné nároky a dokonce proaktivně hledat druhé názory nebo analyzovat lékařský výzkum jménem pacientů.

Adopce agentic AI nabízí webovým stránkám příležitost odlišit se výjimečnou uživatelskou pohodou a zkušenostmi. Nicméně na druhé straně mince je agentic AI vysoce zranitelná vůči podvodům. Výzkum ukazuje, že boti tvoří mezi 40 a 50 procenty veškerého webového provozu, přičemž se předpokládá, že kolem 65 procent těchto botů je škodlivých. Agentic AI je vlastně způsob, jakým běžní spotřebitelé používají boty, a podvodníci – kteří často využívají boty ve velkém množství, aby umožnili operace ve velkém měřítku – nyní budou mít mnohem snazší čas skrýt se na pozadí legitimitní agentic provozu.

Na základní úrovni bude schopnost rozlišovat mezi těmito škodlivými a legitimitními boty ve velkém měřítku klíčovým faktorem pro rozlišení lídrů v agentic AI závodě. V agentic světě budou stroje vybaveny agenturou a budou chodit po stejných „kyber-uličkách“ jako my lidé.

Ale je e-commerce krajina připravena?

Agentic AI bude vyžadovat přehodnocení nebo rozšíření stávajícího rámce ověření identity online, což bude vyžadovat, aby poskytovatelé řešení dále zlepšovali to, co již dělají. Do dneška byl tento rámec zaměřen na tři otázky:

• Je tato osoba skutečná? Rychlé šíření deepfake vyžaduje kontroly životnosti pro všechny transakce s vysokým rizikem, aby se zajistilo, že jsou iniciovány skutečnou, živou osobou. V kontextu agentic AI může být odpověď „ne, nejsem osoba“, ale to neznamená, že životnost je irelevantní. Kontroly životnosti by měly být vždy součástí biometrických kontrol prováděných v kritických bodech uživatelské cesty, aby se zajistilo, že je člověk v smyčce – například při vytváření účtu, převodu peněz nebo obnově účtu („Zapomněl jsem heslo“).
• Je tato osoba důvěryhodná? Toto je schopnost určit, zda je uživatel podvodník, budoucí VIP zákazník nebo něco mezi tím, což často zahrnuje kontrolu proti veřejným databázím. Například někdo, kdo se snaží rezervovat ubytování na online tržišti, by byl označen jako vysoké riziko, pokud má známou kriminální historii squattingu nebo poškozování majetku.
• Je tato osoba stále za účtem? Toto se týká kontinuální, trvalé autentizace – nebo zajištění, že osoba, jejíž identita byla ověřena při přihlášení, je stále přítomna, aby se zabránilo převzetí účtu jinými lidmi.

Agentic AI přidává čtvrtou otázku – má tento agent oprávnění jednat jako zástupce skutečného uživatele? Toto otázka autority je kritická, potvrzující rozsah a dobu autorizace člověka pro AI agenta, aby jednal jako jeho zástupce, v souladu s kontextem. Toto není jen o tom, že člověk deleguje úkol; je to o zajištění, že AI agent má specifické, odvolatelné, kontextově závislé lidské povolení. Všechny akce AI agenta musí být stopovatelné k skutečnému, legitimitnímu člověku; toto je klíč k tomu, aby B2C stránky nasadily agentic AI způsobem, který je bezpečný a odpovědný.

Podle jednoho nedávného odhadu stála AI za zhruba 20 procent podvodů spáchaných v roce 2024 napříč všemi sektory, a toto číslo se očekává, že poroste, protože hackeři nasazují nové techniky. Kromě škodlivých AI agentů, kteří se vydávají za legitimitní, je dalším příkladem únos agenta, nebo když útočník zasahuje do toho, jak agent vnímá informace nebo činí rozhodnutí. Proto kromě ověření legitimity a autority AI agentů je také kritické ověřit integritu agentů, aby se zajistilo, že nebyli zmanipulováni.

Gartner své silné předpovědi pro růst agentic AI obecně zmírnil důležitou výhradou: více než 40 procent projektů agentic AI bude zrušeno do konce roku 2027. Toto bylo silným probuzením – znamením, že mnoho organizací podceňuje složitost implementace agentic AI, zejména potřebu zajistit dostatečné kontroly rizik. Zatímco existuje mnoho způsobů, jak agentic AI agenti mohou být využiti k způsobení škody, schopnost ověřit legitimitu a autoritu je základní, zakládající krok pro minimalizaci rizika. Naštěstí není vyžadována žádná reinvence, ale evoluce – rozšíření osvědčených rámců ověření identity online, které existují dnes.