Brist på tillförlitlig AI kan hämma innovation och affärsverksamhet

En nyligen genomförd undersökning bland globala affärsledare visar att tillförlitlig AI är en prioritet, men många tar inte tillräckliga steg för att uppnå det, till vilken kostnad?

Faktum är att IBM-undersökningen visade att en förbluffande 85% av respondenterna är överens om att konsumenter är mer benägna att välja ett företag som är transparent om hur deras AI-modeller är byggda, hanteras och används.

Däremot medgav majoriteten att de inte har tagit viktiga steg för att säkerställa att deras AI är tillförlitlig och ansvarsfull, som att minska bias (74%), spåra prestandavariationer och modellglidning (68%), och säkerställa att de kan förklara AI-drivna beslut (61%). Detta är oroande, särskilt när man betänker att användningen av AI fortsätter att öka – 35% säger att de nu använder AI i sin verksamhet, jämfört med 31% för ett år sedan.

Jag deltog nyligen i den exklusiva Corporate Innovation Summit i Toronto, där deltagarna utbytte innovativa idéer och visade upp teknologier som är redo att forma framtiden. Jag hade privilegiet att delta i tre rundabordssamtal inom finansiella tjänster, försäkringar och detaljhandelssektorer med tre nyckelområden som framkom: behovet av mer transparens för att skapa förtroende för AI, demokratisering av AI genom no-code/low-code, och utveckling för att leverera snabbare tid till värde och riskmitigering genom AI-regleringsbästa praxis.

Öka förtroendet för AI-teknologier. COVID-19 förstärkte och accelererade trenden mot att anta AI-drivna chatbots, virtuella finansiella assistenter och beröringsfria kundpåkoppling. Denna trend kommer att fortsätta, som bekräftas i forskning av Cap Gemini, som visar att 78% av konsumenterna planerar att öka användningen av AI-teknologier, inklusive digital identitetshantering i sina interaktioner med finansiella tjänsteorganisationer.

De inneboende fördelarna till trots, uppstår ett antal utmaningar. Bland de viktigaste är fortsatt konsumentmisstro mot AI-teknologier och hur deras allomfattande natur påverkar deras integritets- och säkerhetsrättigheter. 30% av konsumenterna uppgav att de skulle vara mer bekväma med att dela sin biometriska information om deras finansiella tjänsteleverantörer tillhandahöll mer transparens i förklaringen av hur deras information samlas in, hanteras och säkerställs.

CIO:er måste anta tillförlitliga AI-principer och införa rigorösa åtgärder som skyddar integritets- och säkerhetsrättigheter. De kan uppnå detta genom kryptering, dataminimering och säkrare autentisering, inklusive att överväga framväxande decentraliserade digitala identitetsstandarder. Som ett resultat kommer era intelligent automatiseringsinsatser och självbetjäningserbjudanden att se mer antagande och behöva mindre mänsklig inblandning.

Ta bort hinder för demokratisering av AI. Det finns en växande trend mot no-code/low-code AI-applikationsutveckling, som forskning förutspår kommer att nå 45,5 miljarder dollar år 2025. Den främsta drivkraften är snabbare tid till värde med förbättringar i applikationsutvecklingsproduktivitet med 10x.

Till exempel anser 56% av de finansiella tjänsteorganisationerna som undersökts att datainsamling från låntagare som en av de mest utmanande och ineffektiva stegen i låneansökningsprocessen, vilket resulterar i höga avbrottsfrekvenser. Medan AI-drivna biometriska identifierings- och datainsamlingstekniker har visat sig förbättra effektiviteten i låneansökningsprocessen, kan de också skapa regelefterlevnadsrisker, särskilt dataskydd, konfidentialitet och AI-algoritmisk bias.

För att mildra och avhjälpa sådana risker måste no-code/low-code-applikationer innehålla omfattande tester för att säkerställa att de fungerar i enlighet med de ursprungliga designmålen, ta bort potentiell bias i utbildningsdatamängden som kan innehålla urvalsbias, märkningsbias och är säker från adversarial AI-attacker som kan påverka AI-algoritmiska resultat negativt. Övervägande av ansvarsfulla datavetenskapsprinciper för rättvisa, noggrannhet, konfidentialitet och säkerhet är av yttersta vikt.

Utveckla en AI-styrnings- och regleringsram. AI-styrning är inte längre en önskvärd initiativ, utan ett imperativ. Enligt OECD:s spårare av nationella AI-politiker finns det över 700 AI-regleringsinitiativ under utveckling i över 60 länder. Det finns dock frivilliga uppförandekoder och etiska AI-principer utvecklade av internationella standardiseringsorganisationer som Institute of Electrical and Electronic Engineers (”IEEE”) och National Institute of Standards and Technology (NIST).

Bekymmer från organisationer omger antagandet att AI-regler kommer att påföra dem mer stränga regelefterlevnadsåtaganden på dem, bakade av stränga verkställighetsmekanismer, inklusive straff för icke-efterlevnad. Ändå är AI-reglering oundviklig.

Europa och Nordamerika tar proaktiva steg som kommer att kräva att CIO:er samarbetar med sina tekniska och affärsmässiga motparter för att bilda effektiva policys. Till exempel har den europeiska kommissionen föreslagit en Artificiell Intelligenslag som föreslår att instituera riskbaserade åtaganden för AI-leverantörer för att skydda konsumenträttigheter, samtidigt som de främjar innovation och ekonomiska möjligheter som är förknippade med AI-teknologier.

Dessutom släppte den kanadensiska federala regeringen i juni 2022 sin efterlängtade Digital Charter Implementation Act, som skyddar mot negativa effekter av högrisk-AI-system. USA fortsätter också med AI-regleringsinitiativ, om än på sektoriell basis. Federal Trade Commission (FTC), Consumer Financial Protection Bureau (CFPB) och Federal Reserve Board utövar alla sina regleringsmusklerna genom sina verkställighetsmekanismer för att skydda konsumenter mot negativa effekter som kan uppstå från den ökade användningen av AI som kan resultera i diskriminerande resultat, om än oavsiktliga. En AI-regleringsram är ett måste för alla innovativa företag.

Att uppnå tillförlitlig AI kräver data-drivna insikter

Implementering av tillförlitlig AI kan inte uppnås utan en data-driven ansats för att avgöra var tillämpningarna av AI-teknologier kan ha den största påverkan innan implementering. Är det för att förbättra kundengagemanget eller för att realisera operativa effektiviteter eller för att mildra regelefterlevnadsrisker?

Var och en av dessa affärsdrivare kräver en förståelse av hur processer utförs, hur eskaleringar och undantag hanteras och identifierar variationer i processutförande, vägspärrar och deras rotorsaker. Baserat på en sådan data-driven analys kan organisationer fatta informerade affärsbeslut om påverkan och resultat som är associerade med implementering av AI-baserade lösningar för att minska kundpåkopplingsfriktion och förbättra operativa effektiviteter. När organisationer har fördelen av data-drivna insikter kan de sedan automatisera högt arbetsintensiva processer som att uppfylla AI-kompatibilitetskrav, regelefterlevnad, KYC och AML i finansiella tjänster.

Huvudpoängen är att en integrerad del av AI-aktiverad processautomatisering är implementering av tillförlitliga AI-bästa praxis. Etisk användning av AI bör inte betraktas endast som en juridisk och moralisk skyldighet, utan som ett affärsimperativ. Det är bra affärsverksamhet att vara transparent i tillämpningen av AI. Det främjar förtroende och skapar varumärkeslojalitet.