Nedostatek důvěryhodného AI může brzdit inovace a obchodní hodnotu

Recentní průzkum mezi globálními lídry byznysu ukazuje, že důvěryhodný AI je jednou z hlavních priorit, ale mnoho z nich nečiní dostatečné kroky k jeho dosažení, ale jaký je náklad?

Pravděpodobně, průzkum IBM ukázal, že ohromujících 85% respondentů souhlasí s tím, že spotřebitelé jsou více pravděpodobně zvolit společnost, která je transparentní ohledně toho, jak jsou její modely AI postaveny, spravovány a používány.

Nicméně, většina uznala, že nečiní dostatečné kroky k zajištění toho, aby jejich AI byl důvěryhodný a zodpovědný, jako je snížení biasu (74%), sledování výkonu variací a modelového driftu (68%), a zajištění toho, aby mohli vysvětlit rozhodnutí AI (61%). To je znepokojivé, zejména když uvážíme, že použití AI stále roste – 35% řeklo, že nyní používají AI ve svém byznysu, oproti 31% loni.

Nedávno jsem se zúčastnil pozvánkového Corporate Innovation Summit v Torontu, kde účastníci vyměňovali inovativní nápady a představovali technologie, které budou tvarovat budoucnost. Měl jsem privilegium zúčastnit se tří kulatých stolů ve finančních službách, pojišťovnictví a maloobchodě s třemi klíčovými oblastmi, které vyšly najevo: potřeba větší transparentnosti pro budování důvěry v AI, demokratizace AI prostřednictvím no-code/low-code a vývoj pro rychlejší čas na hodnotu a řízení rizik prostřednictvím nejlepších praktik AI regulace.

Zvýšit důvěru v technologie AI. COVID-19 zesílil a urychlil trend směrem k používání AI poháněných chatbotů, virtuálních finančních asistentů a bezdotykového zákaznického on-boardingu. Tento trend bude pokračovat, jak potvrdil výzkum Cap Gemini, který ukazuje, že 78% spotřebitelů plánuje zvýšit používání technologií AI, včetně digitální identity managementu ve svých interakcích s finančními službami.

Přirozené výhody nejsou zapotřebí, ale řada výzev vzniká. Hlavní mezi nimi je pokračující nedůvěra spotřebitelů v technologie AI a jak jejich všudypřítomná povaha ovlivňuje jejich práva na soukromí a bezpečnost. 30% spotřebitelů uvedlo, že by byli více komfortní sdílet své biometrické informace, pokud by jejich poskytovatelé finančních služeb poskytli více transparentnosti ohledně toho, jak jsou jejich informace shromažďovány, spravovány a zabezpečeny.

CIO musí přijmout důvěryhodné principy AI a zavést přísná opatření, která zajistí ochranu práv na soukromí a bezpečnost. Toho lze dosáhnout šifrováním, minimalizací dat a bezpečnějším ověřením, včetně zvažování vznikajících decentralizovaných standardů digitální identity. V důsledku toho vaše úsilí o inteligentní automatizaci a samoobslužné nabídky uvidí více přijetí a méně lidského zásahu.

Odebrat bariéry demokratizaci AI. Existuje rostoucí trend směrem k no-code/low-code aplikacím AI, které výzkum předpovídá, že dosáhne 45,5 miliard dolarů do roku 2025. Hlavním hnacím motorem je rychlejší čas na hodnotu s zlepšením produktivity aplikace o 10x.

Například 56% finančních služeb organizací dotázaných považuje shromažďování dat od dlužníků jako jednu z nejvíce náročných a neefektivních kroků v procesu žádosti o půjčku, což vede k vysokým sazbám opuštění. Zatímco AI poháněná biometrická identifikace a technologie shromažďování dat jsou prokázány jako zlepšení efektivity v procesu žádosti o půjčku, mohou také vytvořit rizika dodržování předpisů, zejména rizika ochrany dat, důvěrnosti a biasu AI algoritmu.

Aby se tyto rizika zmírnily a odstranily, musí aplikace no-code/low-code zahrnovat komplexní testování, aby se zajistilo, že fungují v souladu s původními designovými cíli, odstraní potenciální bias v tréninkovém datovém souboru, který může zahrnovat bias vzorkování, bias označování, a jsou zabezpečeny proti útokům adversarial AI, které mohou nepříznivě ovlivnit výsledky AI algoritmu. Zvažování principů zodpovědné datové vědy férovosti, přesnosti, důvěrnosti a zabezpečení je zásadní.

Vyvinout rámec AI governance a regulace. Rámec AI governance již není pouze příjemnou iniciativou, ale imperativem. Podle sledovače OECD pro národní AI politiky existuje více než 700 iniciativ AI regulace ve vývoji ve více než 60 zemích. Existují však dobrovolné kodexy chování a etické principy AI vyvinuté mezinárodními standardizačními organizacemi, jako je Institute of Electrical and Electronic Engineers (IEEE) a National Institute of Standards and Technology (NIST).

Obavy organizací se týkají předpokladu, že AI regulace uvalí na ně více přísnějších požadavků na dodržování předpisů s podporou onerózních mechanismů vynucování, včetně pokut za nedodržování předpisů. Nicméně, AI regulace je nevyhnutelná.

Evropa a Severní Amerika přijímají proaktivní postoje, které budou vyžadovat, aby CIO spolupracovali se svými technologickými a obchodními protějšky, aby vytvořili efektivní politiky. Například, návrh Evropské komise o umělém inteligentním zákoně navrhuje instituci založené na riziku povinnosti pro poskytovatele AI, aby chránili práva spotřebitelů, zatímco současně podporují inovace a ekonomické příležitosti spojené s technologiemi AI.

Kromě toho, v červnu 2022, kanadská federální vláda vydala dlouho očekávaný Digital Charter Implementation Act, který chrání proti nepříznivým dopadům systémů AI s vysokým rizikem. USA také postupují s iniciativami AI regulace, ačkoli na sektorální bázi. Federální obchodní komise (FTC), Úřad pro ochranu spotřebitelů (CFPB) a Rada guvernérů Federálního rezervního systému všechny flexibilně využívají své regulační pravomoci, aby chránily spotřebitele proti nepříznivým dopadům spojeným se zvýšeným používáním AI, které mohou vést k diskriminačním výsledkům, byť neúmyslně. Rámec AI regulace je nutný pro jakoukoli inovativní společnost.

Dosažení důvěryhodného AI vyžaduje datové poznatky

Implementace důvěryhodného AI nemůže být dosažena bez datově řízeného přístupu, aby se určilo, kde mohou mít aplikace technologií AI největší dopad, než se přistoupí k implementaci. Je to zlepšení zákaznické angažovanosti, nebo realizace provozní efektivity, nebo zmírnění rizik dodržování předpisů?

Každý z těchto obchodních hnacích motorů vyžaduje pochopení, jak procesy fungují, jak se zpracovávají eskalace a výjimky, a identifikaci variací v procesu a jejich kořenových příčin. Na základě takové datové analýzy mohou organizace učinit informovaná obchodní rozhodnutí týkající se dopadu a výsledků spojených s implementací AI založených řešení, aby se snížila tření zákaznického on-boardingu a zlepšily provozní efektivity. Jakmile organizace mají výhodu datově řízených poznatků, mohou automatizovat vysoce náročné procesy, jako jsou AI dodržování předpisů, auditování dodržování předpisů, KYC a AML v finančních službách.

Hlavní poznatek je, že nedílnou součástí automatizace procesů AI je implementace důvěryhodných nejlepších praktik AI. Etické použití AI by nemělo být považováno pouze za právní a morální povinnost, ale jako obchodní imperativ. Má dobrý obchodní smysl být transparentní ve využití AI. To vytváří důvěru a buduje loajalitu značky.