Nedostatek důvěryhodné umělé inteligence může brzdit inovace a obchodní hodnotu

Recentní průzkum mezi globálními lídry byznysu ukazuje, že důvěryhodná umělá inteligence je jednou z hlavních priorit, nicméně mnoho z nich nečiní dostatečné kroky k jejímu dosažení, ale jaký je náklad?

Skutečně, průzkum IBM odhalil, že ohromujících 85% respondentů souhlasí s tím, že spotřebitelé jsou více pravděpodobně zvolit společnost, která je transparentní ohledně toho, jak jsou její modely umělé inteligence postaveny, spravovány a používány.

Nicméně, většina uznala, že neučinila klíčové kroky k zajištění toho, aby jejich umělá inteligence byla důvěryhodná a zodpovědná, jako je snížení biasu (74%), sledování variací výkonu a driftu modelu (68%) a zajištění toho, aby mohli vysvětlit rozhodnutí podporovaná umělou inteligencí (61%). To je znepokojivé, zejména když uvážíme, že používání umělé inteligence stále roste – s 35% říkajícími, že nyní používají umělou inteligenci ve svém byznysu, oproti 31% před rokem.

Nedávno jsem se zúčastnil vyhrazeného Corporate Innovation Summit v Torontu, kde účastníci vyměnili inovativní nápady a představili technologie, které jsou připraveny tvarovat budoucnost. Měl jsem privilegium účastnit se tří kulatých stolů ve finančních službách, pojišťovnictví a maloobchodním segmentu se třemi klíčovými oblastmi, které vyšly na povrch: potřeba větší transparentnosti pro podporu důvěry v umělé inteligenci, demokratizace umělé inteligence prostřednictvím no-code/low-code a vývoj pro doručení rychlejšího času na hodnotu a mitigaci rizik prostřednictvím nejlepších praktik regulace umělé inteligence.

Zvýšit důvěru v technologie umělé inteligence. COVID-19 zesílil a urychlil trend směrem k používání chatbotů podporovaných umělou inteligencí, virtuálních finančních asistentů a bezdotykového zákaznického on-boardingu. Tento trend bude pokračovat, jak potvrdil výzkum Cap Gemini, který ukazuje, že 78% spotřebitelů plánuje zvýšit používání technologií umělé inteligence, včetně digitální identity managementu ve svých interakcích s finančními službami.

Přirozené výhody nejsou nikterak menší, ale řada výzev vzniká. Hlavní z nich je pokračující nedůvěra spotřebitelů v technologie umělé inteligence a jak jejich všudypřítomná povaha dopadá na jejich práva na soukromí a bezpečnost. 30% spotřebitelů uvedlo, že by byli více pohodlní sdílet své biometrické informace, pokud by jejich poskytovatelé finančních služeb poskytli více transparentnosti při vysvětlování, jak jsou jejich informace shromažďovány, spravovány a zabezpečovány.

CIO musí přijmout důvěryhodné principy umělé inteligence a zavedou přísná opatření, která ochrání práva na soukromí a bezpečnost. Toho mohou dosáhnout prostřednictvím šifrování, minimizace dat a bezpečné ověřování, včetně zvažování vznikajících decentralizovaných digitálních standardů identity. V důsledku toho vaše úsilí o inteligentní automatizaci a samoobslužné nabídky uvidí více přijetí a bude potřebovat méně lidského zásahu.

Odeberte bariéry demokratizace umělé inteligence. Existuje rostoucí posun směrem k no-code/low-code aplikacím umělé inteligence, které výzkum předpovídá, že dosáhne 45,5 miliard dolarů do roku 2025. Hlavním hnacím motorem je rychlejší čas na hodnotu s zlepšením produktivity vývoje aplikací o 10x.

Například 56% finančních služeb organizací považuje shromažďování dat od借níků jako jednu z nejvíce náročných a neefektivních kroků v procesu žádosti o půjčku, což vede k vysokým sazbám opuštění. Zatímco technologie umělé inteligence a biometrické identifikace a shromažďování dat jsou prokázány jako zlepšení efektivnosti v procesu žádosti o půjčku, mohou také vytvořit rizika dodržování předpisů, zejména data soukromí, důvěrnosti a bias algoritmů umělé inteligence.

Pro mitigaci a nápravu takových rizik musí aplikace no-code/low-code zahrnovat komplexní testování, aby se zajistilo, že fungují v souladu s původními designovými cíli, odstraní potenciální bias v trénovacích datech, který může zahrnovat bias výběru, bias označování a je zabezpečen proti útokům umělé inteligence, které mohou nepříznivě ovlivnit výsledky algoritmů umělé inteligence. Zvažování zodpovědných principů datové vědy férovosti, přesnosti, důvěrnosti a bezpečnosti je zásadní.

Vyvinout rámec řízení a regulace umělé inteligence. Řízení umělé inteligence již není pouze iniciativou, ale imperativem. Podle sledovače OECD pro národní politiky umělé inteligence existuje více než 700 iniciativ regulace umělé inteligence ve vývoji ve více než 60 zemích. Existují však dobrovolné kodexy chování a etické principy umělé inteligence vyvinuté mezinárodními standardizačními organizacemi, jako je Institute of Electrical and Electronic Engineers (IEEE) a National Institute of Standards and Technology (NIST).

Obavy organizací se týkají předpokladu, že regulace umělé inteligence uvalí na ně více přísných povinností dodržování předpisů, podporovaných přísnými mechanismy vynucování, včetně pokut za nedodržování. Nicméně, regulace umělé inteligence je nevyhnutelná.

Evropa a Severní Amerika přijímají proaktivní postoje, které budou vyžadovat, aby CIO spolupracovali se svými technologickými a obchodními protějšky, aby vytvořili efektivní zásady. Například, Evropská komise navrhla zákon o umělé inteligenci, který navrhuje institut rizikových povinností pro poskytovatele umělé inteligence, aby chránili práva spotřebitelů, zatímco současně podporují inovace a ekonomické příležitosti spojené s technologiemi umělé inteligence.

Navíc, v červnu 2022, kanadská federální vláda vydala dlouho očekávaný zákon o implementaci digitální charty, který chrání proti nepříznivým dopadům systémů umělé inteligence s vysokým rizikem. USA také pokračují v iniciativách regulace umělé inteligence, byť na sektorální bázi. Federální obchodní komise (FTC), Úřad pro ochranu spotřebitelů (CFPB) a Rada guvernérů Federální rezervy semua flexují své regulační svaly prostřednictvím svých mechanismů vynucování, aby chránily spotřebitele proti nepříznivým dopadům vznikajícím z rostoucího používání umělé inteligence, které mohou vést k diskriminačním výsledkům, byť neúmyslným. Rámec regulace umělé inteligence je nutný pro jakoukoli inovativní společnost.

Dosažení důvěryhodné umělé inteligence vyžaduje datové poznatky

Implementace důvěryhodné umělé inteligence nemůže být dosažena bez datově orientovaného přístupu, aby se určilo, kde aplikace technologií umělé inteligence může mít největší dopad před provedením implementace. Je to zlepšení zákaznické zkušenosti, nebo realizace provozní efektivity, nebo mitigace rizik dodržování předpisů?

Každý z těchto obchodních hnacích motorů vyžaduje pochopení, jak procesy fungují, jak jsou řešeny eskalace a výjimky a identifikace variací v procesu a jejich kořenových příčin. Na základě takového datově orientovaného análýzy mohou organizace učinit informovaná obchodní rozhodnutí o dopadu a výsledcích spojených s implementací řešení založených na umělé inteligenci, aby snížily tření zákaznického on-boardingu a zlepšily provozní efektivitu. Jakmile organizace mají výhodu datově orientovaných poznatků, mohou automatizovat vysoce náročné procesy, jako jsou splnění požadavků umělé inteligence, audit dodržování předpisů, KYC a AML ve finančních službách.

Hlavní závěr je, že integrovanou částí automatizace procesů s podporou umělé inteligence je implementace nejlepších praktik důvěryhodné umělé inteligence. Etické použití umělé inteligence by nemělo být považováno pouze za právní a morální povinnost, ale jako obchodní imperativ. Je to dobré obchodní rozhodnutí být transparentní při aplikaci umělé inteligence. To podporuje důvěru a buduje loajalitu značek.