Jim Rowan, vedoucí AI pro USA ve společnosti Deloitte – série rozhovorů

Jim Rowan je vedoucím AI pro USA ve společnosti Deloitte a principalem v Deloitte Consulting LLP. Pomáhá organizacím proměňovat jejich ambice v oblasti AI v konkrétní obchodní výsledky. Jeho kariéra zahrnuje podnikové technologie, analytiku, data a digitální transformaci a má zkušenosti z oblasti biologických věd, zdravotnictví a telekomunikací. Zastával vedoucí pozice v útvarech Strategy & Analytics a AI & Data společnosti Deloitte a věnuje se také rozvoji talentů a schopností, které organizace potřebují k zavádění AI.

Deloitte je organizace poskytující odborné služby v oblasti poradenství, auditu a ověřování, daní a dalších poradenských služeb. Její aktivity v oblasti AI propojují strategii, data, technologie, talenty a řízení, aby podnikům pomohly zavádět AI a rozšiřovat její využití napříč provozem. V digitálním obchodě tato práce zahrnuje přípravu informací o produktech a podnikových systémů pro AI agenty, propojování zákaznických zkušeností napříč kanály a zavádění kontrol identity, oprávnění a důvěry potřebných pro automatizované interakce a transakce.

Ve společnosti Deloitte působíte už více než dvě desetiletí a věnujete se podnikových technologiím, analytice, datům a nyní také AI. Kdy vám z této perspektivy došlo, že AI agenti nejen promění fungování firem uvnitř, ale stanou se také prostředníkem mezi podniky a jejich zákazníky?

V posledních několika letech jsem na vlastní oči sledoval pokrok AI a zároveň pomáhal organizacím proměňovat obchodní cíle v měřitelné výsledky, které se dříve zdály nepředstavitelné. Základem mého porozumění AI jsou zkušenosti s daty, procesy a technologiemi. Začal jsem budovat kapacity společnosti Deloitte zaměřené na rozvoj talentů potřebných k úspěšnému využívání AI, například prostřednictvím našeho programu AI Academy, který připravuje vzdělávací programy pro naše zaměstnance i klienty.

V současné situaci využívají organizace AI agenty k proměně svých strategií digitálního obchodu několika způsoby: zvyšují viditelnost značek, používají nástroje pro personalizaci ke zkvalitnění konverzace a koordinují jednotnou omnichannelovou zkušenost napříč fyzickými, digitálními a sociálními kontaktními body. Tento zlom přichází v době, kdy značky čelí nestálému trhu, což vytváří příležitost pro obchodování prostřednictvím agentů, které jim může pomoci reagovat na potřeby zákazníků rychleji, relevantněji a jednotněji.

Mluvil jste o tom, že se firmy musí připravit na „optimalizaci pro agentní vyhledávání“. Jak tento koncept definujete a v čem se optimalizace pro AI agenta zásadně liší od tradiční optimalizace pro vyhledávače (SEO) nebo novějších přístupů k optimalizaci obsahu pro AI nástroje, které poskytují odpovědi?

Tradičně se online boj o pozornost spotřebitelů řídil optimalizací pro vyhledávače (SEO) a vycházel z předpokladu, že na druhém konci dotazu stojí člověk, který si výsledek přečte, vyhodnotí a rozhodne se, co koupí. S tím, jak spotřebitelé stále častěji využívají k průzkumu nástroje založené na AI, se rozšířila optimalizace pro generativní vyhledávače (GEO). Optimalizace pro agentní vyhledávání je dalším vývojovým stupněm GEO. Zohledňuje skutečnost, že AI už produkty nebo služby pouze nedoporučuje, ale také uskutečňuje rozhodnutí o jejich nákupu. Značky proto musí optimalizovat nejen pro generativní AI, která uživatelům především doporučuje, ale také pro agentní AI, která je určena k provádění úkonů a dokáže koordinovat systémy, vykonávat pracovní postupy a spouštět transakce.

Když AI agent dostane za úkol prozkoumat a porovnat produkty nebo služby a sestavit jejich užší výběr, kterým signálům podle vás přikládá největší váhu? Budou důležitější strukturovaná produktová data, ceny, recenze, zmínky třetích stran a autorita značky, nebo se prosadí zcela nová sada signálů?

Okruh značek, které AI agent zvažuje, se odvíjí od jejich viditelnosti a relevance; agent upřednostní ty, jejichž produkty, služby, ceny a data jsou dostupné, strojově čitelné a lze je okamžitě ověřit. Konzistentní informace napříč platformami, hodnocení a recenze i autorita značky jsou stále důležité, ale tyto signály se musí promítnout také do podoby dat, která agent dokáže zpracovat. Důležitý bude i osobní kontext: agenti jednající jménem zákazníků budou potřebovat spolehlivý přístup k jejich preferencím, oprávněním a předchozím interakcím, aby mohli vytvářet co nejrelevantnější doporučení. Konkurenční výhodu značce nepřinesou jen samotné signály, ale také rychlost, s jakou dokáže zajistit, aby její data byla čitelná, srozumitelná, důvěryhodná a vyjádřená v měřitelných parametrech, které agent může porovnávat.

Jedním z problémů je, že časem mohou vzniknout tisíce spotřebitelských i podnikových agentů založených na různých modelech a napojených na různé zdroje dat. Jak může firma zajistit, aby byla v tomto roztříštěném ekosystému správně reprezentována a snadno dohledatelná, aniž by se snažila optimalizovat pro každého jednotlivého agenta?

Zaměření organizací by se mělo soustředit na vytvoření důvěryhodného, strojově čitelného základu, ke kterému může přistupovat a který dokáže interpretovat jakýkoli agent, namísto optimalizace pro jednotlivé agenty. To znamená zveřejňovat ověřitelné, spolehlivé a aktuální informace o produktech, cenách a zásadách prostřednictvím důvěryhodných zdrojů. Samotná dohledatelnost pravděpodobně stačit nebude, protože agenti začnou jednat jménem spotřebitelů, což ještě zvýší potřebu systémů umožňujících ověřování identity, potvrzování způsobilosti a bezpečné transakce. V nyní roztříštěném ekosystému agentů se ve vyhledávání prosadí značka, jejíž informace bude nejsnazší pochopit a získat. Společnosti by se však měly vyvarovat budování řešení založených na jediném protokolu, protože tyto protokoly se stále vyvíjejí a zatím není jasné, který z nich převládne. O to důležitější je navrhovat systémy s ohledem na interoperabilitu a možnost rychle přijímat nové protokoly nebo na ně přecházet, jak se bude ekosystém vyvíjet.

Pokud se obchodování posune od modelu business-to-consumer k modelu business-to-agent-to-business, co se změní na technické úrovni? Budou muset společnosti přehodnotit podobu webových stránek, API, katalogů produktů, systémů identity nebo jiné infrastruktury, aby s nimi agenti mohli přímo komunikovat?

Ano, organizace budou muset přehodnotit a nově pojmout své stávající systémy, aby vytvořily vhodnou technickou architekturu umožňující agentní obchodování B2B. Nestane se to přes noc; vzhledem k rozsahu potřebné práce a míře změn to bude nějakou dobu trvat. Možnosti vyhledávání a plateb se dnes rozvíjejí rychleji než fáze rozhodování, v níž si firmy teprve budují jistotu, že mohou agentům dovolit rozhodovat v rámci stanovených pravidel. Každý CIO, CTO nebo CISO by se měl zaměřit na poskytování škálovatelných integračních platforem s nízkou latencí, které podpoří silná partnerství s technologickými firmami a integrátory. Namísto kompletní přestavby systémů by vedoucí pracovníci měli věnovat čas určení toho, které systémy lze propojit s agenty, identifikaci systémů, které tomu brání, a testování jednoduchých úloh v kontrolovaném prostředí. Důležité je také zachovat možnost, aby transakci řídili lidé, proto by společnosti měly vytvářet flexibilní cesty, které zákazníkům umožní snadno přecházet mezi interakcemi vedenými agentem a člověkem, namísto toho, aby ve snaze o automatizaci oslabovaly lidskou zkušenost. Organizace mohou postupně přejít k budování platformy pro správu více agentů, modernizaci starších systémů nebo jejich propojování, aby k nim agenti měli přístup, a zavádění pokročilého zabezpečení s monitorováním v reálném čase.

Tradiční digitální marketing se výrazně zaměřoval na optimalizaci pozic ve výsledcích vyhledávání, počtu zobrazení, kliknutí a návštěvnosti webových stránek. Pokud budou agenti stále častěji provádět průzkum ještě předtím, než člověk vůbec navštíví webové stránky, jaké nové metriky by měly společnosti používat k posouzení, zda jsou v nákupním procesu zprostředkovaném agenty skutečně viditelné a konkurenceschopné?

Úspěch se tradičně měřil tím, zda se podařilo upoutat pozornost spotřebitelů a nakonec si získat jejich důvěru. S tím, jak agenti přebírají větší část nákupního procesu, budou organizace potřebovat nové způsoby, jak měřit, zda jsou jejich značky viditelné, relevantní a nakonec také vybrané. To zahrnuje propojení vývoje agentů dané značky s měřením výkonu a vyhodnocování toho, zda agent značku nabídne, rozpozná nabídky, na které má zákazník nárok, a úspěšně dokončí transakci. Značky by se měly zaměřit na své zákazníky, nikoli na konkurenci, aby určily, kam investovat nebo jak změnit zákaznickou zkušenost, a sledovat, jak zákazníci objevují produkty, kde odcházejí a kde zůstávají. Tyto metriky mohou značkám nejen pomoci odlišit jejich hodnotové nabídky, ale také doložit návratnost investic pomocí měřitelných výsledků, které posilují loajalitu zákazníků a provozní dokonalost.

Agenti AI mohou shrnout informace o společnosti, porovnat ji s konkurencí a případně vydávat doporučení, aniž by společnost měla přímou kontrolu nad tím, jak je představována. Jak by měly značky sledovat nepřesné nebo zastaralé informace a vytvořit autoritativní zdroj pravdivých údajů, který mohou agenti spolehlivě využívat?

Stejně jako v jiných odvětvích je kontrola produktových dat zásadní pro zachování dohledatelnosti prostřednictvím agentů napříč různými kanály. Značky by měly zvážit také Model Context Protocol (MCP), který je klíčovým prostředkem umožňujícím vytvořit kontrolované prostředí, v němž lze bezpečně sdílet data, nástroje a kontext s externími nákupními agenty a platformami. Kombinace strukturovaných dat a Model Context Protocol může umožnit interakce mezi agenty, zlepšit interoperabilitu a pomoci zajistit přesné zobrazení informací o značce i jejich odpovídající prioritu. Protože se protokoly stále vyvíjejí a zatím není jasné, který z nich se nejvíce rozšíří, měly by společnosti znovu dbát na flexibilitu, aby se mohly rychle připojovat k novým standardům, přecházet mezi nimi a zavádět je podle toho, jak se bude ekosystém vyvíjet.

Jakmile agenti přejdou od pouhého doporučování produktů k provádění úkonů, jako je vyžádání cenové nabídky, vyjednávání podmínek nebo uskutečňování nákupů, jak důležitou roli budou hrát infrastruktura pro ověřování identity a oprávnění a budování důvěry? Jak může podnik rozlišit legitimního zákaznického agenta od automatizovaného systému, kterému by neměl důvěřovat?

Obchodování mezi agenty přináší nová rizika, protože transakce mohou proběhnout rychle a bez zapojení člověka; proto je zásadní umožnit lidský zásah a přechod v průběhu celého procesu. Transakce v rámci agentního obchodování vyžadují nové typy opatření proti podvodům, strategické finanční kontroly a cílené rámce pro vykazování, navržené speciálně pro činnosti iniciované stroji.

V blízké době by organizace měly ke svým agentům umělé inteligence přistupovat jako k zaměstnancům: jasně jim vymezit odpovědnosti, řídit jejich přístup a určit, kdo za ně odpovídá. Budou také potřebovat protokoly pro ověřování legitimních agentů, autorizaci plateb a vymáhání limitů transakcí, oprávnění k API a dalších provozních omezení.

Reklama a placené umístění by také mohly následovat spotřebitele do prostředí agentního obchodování. Jak podle vás budou vypadat komerční pobídky, když agent umělé inteligence doporučuje produkty někomu na míru, a jaká transparentnost bude nutná, aby lidé těmto doporučením důvěřovali?

Již nyní vidíme, že se kapitál přesouvá do agentního obchodování: u amerických inzerentů se očekává, že do roku 2029 utratí přibližně 26 miliard dolarů za reklamu ve vyhledávání s využitím umělé inteligence. Komerční pobídky se nevyhnutelně budou muset vyvíjet, protože podniky budou rozhodovat, zda se akce a ceny nabízené prostřednictvím jejich vlastních kanálů uplatní i v prostředí agentního obchodování. Součástí tohoto vývoje musí být jasná pravidla pro to, jak agenti nakládají s cenami a akcemi. Bez zavedených ochranných opatření by agenti mohli nakupovat za ceny platné v okamžiku transakce, což by mohlo vést k nechtěnému uplatnění slev a cenových úrovní a k úniku marže. Podniky by měly zavést zásady, které jsou v souladu s globálními standardy ochrany soukromí a dat a také s parametry pro každého zákazníka, které předem schválili lidé a nad nimiž mají kontrolu.

Přestože se automatizace stále rozšiřuje, zdůrazňujete, že lidský úsudek zůstane při rozhodování o nákupech zásadní. Kde podle vás leží hranice mezi rozhodnutími, která spotřebitelé bez obav svěří agentům, a těmi, u nichž budou chtít sami ještě pátrat, porovnávat a učinit konečné rozhodnutí?

Hranice bude záviset na důležitosti rozhodnutí a na tom, nakolik spotřebitel agentovi důvěřuje. Lidé mohou být ochotni svěřit agentům běžné nákupy za nízkou cenu, pokud jsou jejich preference jasné a případná špatná volba by měla jen malé důsledky. U rozhodnutí spojených s vysokými výdaji, citlivými informacemi nebo smluvními závazky budou pravděpodobně požadovat lepší přehled a ponechají si konečné schválení. Jakmile se odstraní překážky, spotřebitelé budou značce důvěřovat více. Je proto důležité, aby snadno pochopili, co se děje, a mohli se spolehnout, že transakce proběhne zamýšleným způsobem a bezpečně. Značky by proto měly spotřebitelům jasně umožnit určit, co může agent dělat samostatně, kdy musí požádat o svolení a jak snadno lze jeho kroky zkontrolovat nebo zvrátit.

Děkuji za skvělý rozhovor. Čtenáři, kteří se chtějí dozvědět více o agentním obchodování, objevitelnosti založené na umělé inteligenci a infrastruktuře důvěry, na níž stojí automatizované nakupování, by měli navštívit Deloitte.