Jako profesionál buduji systémy umělé inteligence. Zde je to, co většina lidí špatně chápe

Buduji systémy umělé inteligence pro podnikové kontaktní centra.

Ne demonstrace, benchmarky nebo výzkumné projekty. Produkční systémy, které interagují se zákazníky, navigují podle politik, získávají informace z nespojených podnikových platforem a fungují v prostředích ovlivněných špinavými daty, rozporuplnými záznamy, pozadími hlukem a nepředvídatelným lidským chováním.

Tato zkušenost mi dala možnost být u jednoho z největších nesouladů v oboru umělé inteligence. Veřejné diskuse o umělé inteligenci jsou často ovlivňovány tím, co tato technologie možná jednou bude, zatímco organizace se snaží zjistit, jak ji úspěšně nasadit dnes. To jsou velmi odlišné diskuse.

Otázky, na které trávím čas, seeldom zahrnují obecnou umělou inteligenci nebo to, zda stroje nakonec nahradí lidi. Spíše se jedná o praktické otázky. Může systém konzistentně interpretovat požadavky zákazníků? Může získat přesné informace napříč několika podnikovými platformami? Může se zotavit, když jsou data neúplná? Může správně eskalovat, když je nízká důvěra? Mohou týmy důvěřovat mu natolik, aby ho nasadily ve velkém?

Tyto otázky mohou být méně vzrušující než titulky, ale jsou to ty, které určují, zda podniková umělá inteligence uspěje. S časem jsem dospěl k závěru, že většina organizací přecení důležitost modelu samotného a podceňuje vše, co je třeba k tomu, aby byl model užitečný uvnitř skutečného podniku.

Demonstrace není nasazení

Kdokoli, kdo úzce spolupracuje s podnikovou umělou inteligencí, chápe propast mezi řízenou demonstrací a produkčním nasazením.

Setkáváme se s příklady tohoto jevu neustále. Jeden systém umělé inteligence, se kterým jsme pracovali, má problémy zhruba polovinu času s tím, aby správně interpretoval mluvené 16místné číslo objednávky převedené do slov. Tyto druhy selhání jsou podobné slavnému problému “kolik ‘r’ je ve slově strawberry?”, kde pokročilé jazykové modely měly problémy s úkolem, který se zdál lidem triviální. Stejné modely mohou skórovat výjimečně dobře na zkouškách, jako je MCAT. Ten kontrast odhaluje něco důležitého: výkon benchmarku a provozní spolehlivost nejsou totéž.

Jakmile umělá inteligence vstoupí do produkce, zdědí veškerou složitost prostředí kolem ní. Podnikové systémy obsahují neúplné záznamy, protichůdné informace, zastaralé procesy, nespojené aplikace a edge případy, které se nahromadily po desetiletích. Zákazníci kladou vágní otázky. Politiky se mění. Kvalita dat se liší. Lidské chování zůstává nádherně nepředvídatelné.

Tyto skutečnosti formují výsledky mnohem více než skóre benchmarků, protože umělá inteligence nefunguje v benchmarku. Funguje uvnitř obchodních procesů, systémů a pracovních postupů, které zavádějí složitost, kterou model nemůže sám vyřešit.

Podniková umělá inteligence má provozní vrstvu

Jedna lekce, která people překvapuje, je to, jak rychle výkon modelu přestává být omezujícím faktorem. Jakmile systém dosáhne produkce, provozní výzvy se často stávají důležitějšími než model samotný. Úspěšné iniciativy umělé inteligence závisí na návrhu procesů, organizační shodě, kvalitě dat, integraci systémů, pozorovatelnosti, eskalačních cestách, správě a důvěře.

Týmy potřebují jasné postupy pro zpracování selhání. Potřebují přehled o tom, jak systémy činí rozhodnutí. Potřebují důvěru, že problémy lze identifikovat a řešit, než dopadnou na zákazníky. Organizace často zjistí, že práce kolem systému umělé inteligence vyžaduje stejně velkou pozornost jako systém samotný.

Ta provozní vrstva je místem, kde mnoho nasazení nakonec uspěje nebo selže.

Zákaznický servis zůstává jedním z nejobtížnějších problémů

Zákaznický servis nabízí jeden z nejjasnějších příkladů této složitosti.

Jednoduché interakce se staly stále více zvládnutelnými pro systémy umělé inteligence. Kontrola zůstatku na účtu. Resetování hesla. Zjištění stavu letu. Tyto jsou vysoce strukturované úkoly s předvídatelnými výsledky.

Skutečné zákaznické konverzace zřídka zůstávají tak jednoduché.

Zákazník, který se snaží vyřešit problém s leteckou společností, zahrnující body loajality, partnerující dopravce, spory o refundaci, výjimky z politik, a několik předchozích interakcí, představuje zcela jinou výzvu. Kontext je fragmentovaný. Cíle mohou být nejasné. Politiky mohou být v rozporu. Emoce často vstupují do konverzace.

Tyto interakce stále představují významnou část zákaznického servisu a vyžadují uvažování napříč systémy, procesy a obchodními pravidly způsobem, který zůstává obtížný pro umělou inteligenci. Pokrok byl pozoruhodný. Složitost zůstává reálná.

Podniková data jsou konečně použitelná

Jedna oblast, kde vidím významnou transformaci, se týká podnikových dat.

Většina organizací strávila roky shromažďováním informací napříč desítkami nebo stovkami nespojených systémů. Cenné znalosti existují, ale jejich lokalizace a efektivní využití byly často obtížné. Umělá inteligence činí tyto informace více přístupnými.

Organizace začínají syntetizovat data napříč systémy, efektivněji zjišťovat relevantní kontext a pomáhají zaměstnancům navigovat informace, které byly dříve rozptýleny napříč několika aplikacemi a repozitáři. Tato schopnost operacionalizovat podnikové znalosti může být více transformační než mnohé z titulku-grabbing demonstrací umělé inteligence, které dominují veřejné diskusi.

Další výzva: Umělá inteligence pracující s umělou inteligencí

Další vlna inovací bude pravděpodobně zahrnovat několik systémů umělé inteligence pracujících společně.

Organizace již experimentují s pracovními postupy, kde agenti sdílejí informace, koordinují úkoly a přispívají k větším obchodním procesům. To vytváří nové výzvy kolem odpovědnosti, důvěry, eskalace, komunikace a správy.

Lidé vyvinuli implicitní spolupráci dovednosti po staletích. Chápeme, jak žádat o pomoc, komunikovat nejistotu, eskalovat rizika a zotavit se z chyb. Budování těchto chování do systémů umělé inteligence je mnohem novější disciplínou.

Velká část následujícího kapitoly podnikové umělé inteligence bude zahrnovat učení systémů, aby fungovaly efektivně vedle sebe, zatímco zůstávají v souladu s cíli organizace.

Co podniková umělá inteligence skutečně vyžaduje

Po letech budování a nasazování systémů umělé inteligence jsem se stal přesvědčeným, že organizace tráví příliš mnoho času hodnocením inteligence modelu a недостатným časem přípravou prostředí kolem něj.

Inteligence, kterou tyto modely demonstrují, může být pozoruhodná. Každý rok se stávají více schopnými, více užitečnými a více sofistikovanými. Přesto úspěšná nasazení stále závisí na základech: důvěryhodných datech, dobře navržených procesech, uvážlivé správě, jasném účetnictví a lidech, kteří rozumí, jak integrovat novou technologii do stávajících operací.

Organizace, které vidí největší hodnotu z umělé inteligence, věnují pozornost těmto základům. Protože inteligence sama o sobě netvoří transformaci.

Transformace nastává, když technologie, data, procesy a lidé pracují společně, aby vytvořili lepší výsledky.