AI dokáže odpovědět na otázku. Další výzvou je pomoci lidem posunout se dál.

Vytváření AI, která dokáže odpovídat na otázky, nám jde mimořádně dobře. Zeptejte se, do kdy je třeba podat přihlášku, jaké dokumenty jsou potřeba nebo jak určitý postup funguje, a během několika sekund dostanete užitečnou odpověď. Když jde ale o něčí vzdělání, finanční budoucnost nebo pocit, že někam patří, je odpověď teprve začátek. Podstatné je, zda se daný člověk může skutečně posunout dál.

Právě tady začíná být agentní AI zajímavá. Namísto toho, aby každou interakci vnímala jako izolovaný dotaz, dokáže AI agent rozpoznat, v jaké fázi delší cesty se člověk nachází, určit, co je třeba udělat dál, a pomoci mu toho dosáhnout. Aby to ale fungovalo spolehlivě, nestačí jen výkonný jazykový model. Je třeba od začátku navrhnout celý proces tak, aby zahrnoval účelově vytvořené postupy, propojené systémy a lidský dohled.

Uvažujme o vysokém školství. Student podá přihlášku, vyřídí finanční podporu, zapíše se do kurzů, setká se s poradcem, najde studijní podporu, hledá stáž, připravuje se na ukončení studia, hledá práci a nakonec se stane absolventem. Vysoké školy tyto okamžiky rozdělují mezi různá oddělení a technologické systémy, studenti však vnímají jednu univerzitu. Neměli by muset znát její organizační strukturu, aby získali potřebnou pomoc.

Lidé nechtějí další rozhraní. Chtějí něco vyřídit.

V nedávném průzkumu mezi 1 058 studenty vysokých škol v USA, kteří v současnosti studují, uvedlo 76 %, že očekávají vyřízení většiny záležitostí souvisejících se studiem bez telefonátu nebo návštěvy kanceláře. Čtvrtina z nich však uvedla, že jejich škola tato očekávání nesplňuje. Na otázku, co je pro moderní digitální prostředí nejdůležitější, označilo 64 % rychlou odpověď a vyřešení požadavku, 54 % dostupnost 24 hodin denně, 7 dní v týdnu a 50 % možnost vyřídit vše na jednom místě. Studenti chtějí rychlejší odpovědi, méně předávání mezi pracovníky a možnost vyřídit záležitosti bez procházení několika různých systémů.

Zájemce o studium začne vyplňovat přihlášku na vysokou školu, ale nikdy ji nedokončí. Tradiční chatbot mu může odpovědět na otázky týkající se požadavků na přihlášku, student však stále musí sám zjistit, co mu chybí a jak pokračovat. Agentní systém dokáže rozpoznat, v kterém místě se vyplňování přihlášky zastavilo, určit další krok a pomoci studentovi navázat tam, kde skončil. Pokud student řekne, že už nahrál výpis studijních výsledků, systém může zkontrolovat záznam přihlášky, ověřit, že je dokument přiložen, a přejít k dalšímu požadavku, místo aby studenta žádal o jeho opětovné splnění.

Právě zde přetrvávají i některé z největších technických výzev. Microsoft Research řadí mezi výzvy, kterým čelí agenti pro zvýšení produktivity, spolehlivost, uchovávání kontextu a provádění pracovních postupů v reálném světě. Agent nemůže někoho spolehlivě provázet procesem, pokud mezi jednotlivými kroky ztrácí kontext nebo nedokáže pracovat napříč zapojenými systémy.

Od reaktivních odpovědí k proaktivní pomoci

Příležitost nespočívá jen v odpovídání na otázky, ale také v rozpoznání, kdy někdo potřebuje podporu, a v pomoci institucím určit správný další krok. Tým pro rozvoj instituce může například rozpoznat signály, že je absolvent připraven znovu navázat kontakt, zapojit se jako dobrovolník nebo poprvé přispět finančním darem. Rozpoznání signálu je však teprve začátek. Skutečná hodnota spočívá v tom, že lze určit, jaký způsob oslovení je pro daného člověka v danou chvíli vhodný a co by mělo následovat.

Účelově navržené postupy mohou zohledňovat osvědčené přístupy pro různé skupiny lidí a cíle, a poskytnout tak týmům lepší výchozí bod než obecné nástroje nebo postupy vytvářené od nuly. Přínosem přitom není jen úspora času zaměstnanců. Instituce už mají obrovské množství dat. Potřebují pomoci s výkladem signálů a jejich proměnou v promyšlenou a včasnou komunikaci.

Potřeba je zřejmá. V témže průzkumu mezi studenty polovina uvedla, že se své instituci neozvala, protože pro ně byl příslušný postup příliš složitý. Dalších 40 % muselo znovu poskytnout informace, které už jednou předali, 34 % bylo předáno jinam, aniž se jejich požadavek vyřešil, a 31 % nedokázalo najít, co potřebovalo, a vzdalo to.

Nejužitečnější prostředí s AI pomáhají institucím rozpoznat místa, kde lidé narážejí na překážky, ještě než je přimějí ztratit zájem a přestat se zapojovat.

Kontext mění odpověď v užitečný krok

Všichni známe frustraci z toho, když musíme organizaci stále dokola sdělovat tytéž informace. Představte si, že se to děje při zápisu do kurzů, řešení problému s finanční podporou nebo při opětovném navazování kontaktu s vlastní alma mater. Každá nesouvislá interakce v nás o něco více posiluje dojem, že nás instituce nezná.

Když se informace propojí kolem jednotlivce, a ne kolem samostatných oddělení, zkušenost se změní. Studenti, absolventi i dárci získají plynulejší a osobnější komunikaci, zatímco zaměstnanci budou mít k dispozici kontext, díky němuž mohou účinněji reagovat. Když instituce usnadní komunikaci a přizpůsobí ji jednotlivcům, vytváří podmínky pro pevnější vztahy a dlouhodobou loajalitu.

Studenti už dávají najevo, že chtějí, aby digitální prostředí fungovalo právě takto. Tentýž výzkum mezi studenty zjistil, že 56 % očekává, že jednotlivé systémy budou propojené, aniž by je přesměrovávaly jinam nebo po nich opakovaně vyžadovaly zadávání stejných údajů. Polovina očekává, že je digitální nástroje předem upozorní na termíny, požadavky nebo problémy dříve, než se z nich stanou komplikace.

K dosažení takové zkušenosti nestačí jen zdokonalit jednotlivé nástroje. Je třeba propojit informace a pracovní postupy, které institucím umožní pochopit, v jaké fázi své cesty se daný člověk nachází, a podle toho reagovat.

Nejlepší umělá inteligence ví, kdy jednat, kdy chránit a kdy ustoupit

Cílem agentní umělé inteligence by neměla být maximální míra autonomie. Měla by nabídnout správnou kombinaci asistence, samostatného jednání a lidského úsudku, přičemž schválení člověkem bude součástí pracovního postupu od samého začátku.

S tím, jak umělá inteligence získává schopnost samostatně podnikat více kroků, je stejně důležité rozhodnout, co by měla dělat sama, jako rozšiřovat její možnosti. Rutinní úkoly, například rozpoznávání neúplných formulářů nebo vyhledávání relevantních informací, lze pravděpodobně dobře automatizovat. Pokud však systém umělé inteligence připravuje oslovení studenta nebo doporučuje krok, který by mohl ovlivnit jeho zkušenost, měl by mít člověk možnost jej schválit dříve, než se cokoli dostane ke studentovi.

Lidský dohled by se neměl omezovat na předávání neobvyklých případů k řešení nebo na kontrolu rozhodnutí poté, co už byla učiněna. V situacích s dalekosáhlými důsledky je třeba získat souhlas před provedením kroku, nikoli až po něm. Umělá inteligence může rozpoznávat signály, doporučovat další kroky a připravovat komunikaci, zatímco zaměstnanci si ponechají kontrolu nad tím, co bude následovat.

Tento přístup zároveň vytváří prostor pro úsudek a empatii, které technologie nedokáže nahradit. Student, který se potýká s neobvyklou finanční situací nebo studijními problémy, může potřebovat víc než automatické doporučení. Technologie by měla zaměstnancům pomáhat takové situace rozpoznat a reagovat s potřebným kontextem, nikoli je z procesu vyřazovat.

Odpovědné zavádění těchto technologií znamená také chránit citlivé informace, na nichž tato prostředí závisejí. Propojování systémů a umožnění umělé inteligenci samostatně jednat přináší důležité otázky týkající se přístupu k datům, oprávnění, bezpečnosti a odpovědnosti. Agent, který pomáhá s přihláškou nebo žádostí o finanční podporu, by měl mít přístup pouze k informacím a úkonům odpovídajícím dané interakci a jeho možnosti jednat by měly být jasně vymezené.

Práce společnosti Microsoft Research na agentech s člověkem v procesu potvrzuje, jak důležité je zabudovat lidský dohled a kontrolu do systémů, které jsou stále autonomnější. Patří k tomu i mechanismy, které lidem umožňují zapojit se do práce agenta a usměrňovat ji. Odpovědná umělá inteligence umožňuje vytvářet lepší zkušenosti, protože buduje důvěru potřebnou k jejich poskytování.

Další generace umělé inteligence se zaměří na výsledky

Instituce musí provést ještě jednu změnu: změnit způsob, jakým vyhodnocují, zda umělá inteligence skutečně funguje.

Výkonnost umělé inteligence se dnes často hodnotí pomocí ukazatelů aktivity: počtu vyřízených konverzací, zodpovězených otázek, rychlosti odpovědí nebo dotazů, které už nemuseli řešit zaměstnanci. Tyto ukazatele mohou napovědět, zda se systém používá nebo snižuje pracovní zátěž, neříkají však nutně, zda někomu pomohl dosáhnout toho, kvůli čemu přišel.

U studenta, který se v polovině přihlašování zasekl, úspěch znamená, že přihlášku dokončí, nikoli pouze to, že dostane odpovědi od asistenta s umělou inteligencí. U absolventa, který chce znovu navázat kontakt, úspěch znamená, že ve vztahu udělá další krok.

Dopad těchto digitálních zkušeností sahá daleko za hranice pohodlí. Výzkum mezi studenty zjistil, že 38 % odložilo důležitý úkol související se zápisem, finanční podporou nebo studiem, protože orientace v digitálních nástrojích byla obtížná. Každý čtvrtý uvedl, že kvůli těmto potížím začal pochybovat, zda mu námaha spojená s pokračováním ve studiu stojí za to. Když technologie způsobuje takové překážky, měření samotného zapojení do jejího používání míjí podstatu věci. Instituce by se měly ptát, zda lidé dokončují úkoly, které chtěli splnit, kde se zasekávají a zda se jejich zkušenost postupem času zlepšuje.

Další generace umělé inteligence se bude vyznačovat tím, čeho díky ní lidé dokážou dosáhnout, a to je vzrušující změna. Ať už někdo prochází studiem na vysoké škole, pečuje o své zdraví, nebo se zapojuje do činnosti organizace, na které mu záleží, příležitostí je učinit složité zkušenosti skutečně podpůrnými. K tomu je třeba navrhovat cestu s ohledem na skutečné lidi, propojovat informace, zajistit smysluplný lidský dohled a důsledně měřit výsledky, nikoli aktivitu.

Cílem není automatizovat více jen pro automatizaci samotnou. Jde o to pomáhat lidem posouvat se vpřed s menšími překážkami, větší jistotou a silnějším pocitem, že jim organizace na druhé straně skutečně rozumí.