Brist på tillförlitlig AI kan hämma innovation och affärsverdi

En nyligen genomförd undersökning bland globala affärsledare visar att tillförlitlig AI är en prioritet, men många tar inte tillräckliga steg för att uppnå det, men till vilken kostnad?

Faktum är att IBM-undersökningen visade att en förbluffande 85% av respondenterna är överens om att konsumenter är mer benägna att välja ett företag som är transparent om hur dess AI-modeller är byggda, hanterade och används.

Däremot medgav majoriteten att de inte har tagit viktiga steg för att säkerställa att deras AI är tillförlitlig och ansvarsfull, såsom att minska bias (74%), spåra prestandavariationer och modelldrift (68%) och säkerställa att de kan förklara AI-baserade beslut (61%). Detta är oroande, särskilt när man betraktar att användningen av AI fortsätter att öka – med 35% som säger att de nu använder AI i sin verksamhet, upp från 31% för ett år sedan.

Jag deltog nyligen i den exklusiva Corporate Innovation Summit i Toronto, där deltagarna utbytte innovativa idéer och visade teknologier som är redo att forma framtiden. Jag hade privilegiet att delta i tre rundabordssamtal inom finansiella tjänster, försäkringar och detaljhandelssektorer med tre viktiga områden som framkom: behovet av mer transparens för att främja tillit till AI, demokratisering av AI genom no-code/low-code och utveckling för att leverera snabbare tid till värde och riskminskning genom AI-regleringsbästa praxis.

Öka tilliten till AI-teknologier. COVID-19 förstärkte och accelererade trenden mot att anta AI-baserade chatbotar, virtuella finansiella assistenter och beröringsfria kundpåverkan. Denna trend kommer att fortsätta, som bekräftas i forskning av Cap Gemini, som visar att 78% av konsumenterna planerar att öka användningen av AI-teknologier, inklusive digital identitetshantering i sina interaktioner med finansiella tjänsteleverantörer.

De inneboende fördelarna till trots, uppstår ett antal utmaningar. Framför allt är det fortsatt konsumentmisstro mot AI-teknologier och hur deras allomfattande natur påverkar deras integritet och säkerhetsrättigheter. 30% av konsumenterna uppgav att de skulle vara mer bekväma med att dela sin biometriska information om deras finansiella tjänsteleverantörer tillhandahöll mer transparens i att förklara hur deras information samlas in, hanteras och säkerställs.

CIO:er måste anta tillförlitliga AI-principer och införa rigorösa åtgärder som skyddar integritet och säkerhetsrättigheter. De kan uppnå detta genom kryptering, dataminimering och säkrare autentisering, inklusive att överväga nya decentraliserade digitala identitetsstandarder. Som ett resultat kommer era intelligent automatiseringsinsatser och självbetjäningserbjudanden att se mer antagande och mindre mänsklig inblandning.

Ta bort hinder för demokratisering av AI. Det finns en växande trend mot no-code/low-code AI-applikationsutveckling, som forskning förutspår kommer att nå 45,5 miljarder dollar till 2025. Den viktigaste drivkraften är snabbare tid till värde med förbättringar i applikationsutvecklingsproduktivitet med 10x.

Till exempel anser 56% av de finansiella tjänsteorganisationerna som undersökts att datainsamling från låntagare som en av de mest utmanande och ineffektiva stegen inom låneansökningsprocessen, vilket resulterar i höga avbrottsfrekvenser. Medan AI-drivna biometrisk identifikation och datainsamlingsteknologier är bevisade för att förbättra effektiviteten i låneansökningsprocessen, kan de också skapa regelefterlevnadsrisker, särskilt dataskydd, konfidentialitet och AI-algoritmisk bias.

För att mildra och avhjälpa sådana risker måste no-code/low-code-applikationer innehålla omfattande testning för att säkerställa att de fungerar i enlighet med de ursprungliga designmålen, ta bort eventuell bias i träningsdatamängden som kan innehålla urvalsbias, märkningsbias och är säker från fientliga AI-attacker som kan påverka AI-algoritmiska resultat negativt. Övervägande av ansvarsfulla data science-principer för rättvisa, noggrannhet, konfidentialitet och säkerhet är av stor vikt.

Utveckla en AI-styrning och regleringsram. AI-styrning är inte längre en trevlig att ha-initiativ, utan ett krav. Enligt OECD:s spårare av nationella AI-politiker finns det över 700 AI-regleringsinitiativ under utveckling i över 60 länder. Det finns dock frivilliga uppförandekoder och etiska AI-principer utvecklade av internationella standardiseringsorganisationer som Institute of Electrical and Electronic Engineers (”IEEE”) och National Institute of Standards and Technology (NIST).

Bekymmer från organisationer omger antagandet att AI-regler kommer att pålägga mer stränga regelefterlevnadsåtaganden på dem, bakat med stränga verkställighetsmekanismer, inklusive straff för icke-efterlevnad. Ändå är AI-reglering oundviklig.

Europa och Nordamerika tar proaktiva steg som kommer att kräva att CIO:er samarbetar med sina tekniska och affärsmässiga motparter för att bilda effektiva policys. Till exempel har Europeiska kommissionens förslag till en konstgjord intelligenslag föreslagit att införa riskbaserade åtaganden för AI-leverantörer för att skydda konsumenträttigheter, samtidigt som de främjar innovation och ekonomiska möjligheter som är förknippade med AI-teknologier.

Dessutom släppte den kanadensiska federala regeringen i juni 2022 sin efterlängtade Digital Charter Implementation Act, som skyddar mot negativa effekter av högrisk-AI-system. USA fortsätter också med AI-regleringsinitiativ, om än på sektoriell basis. Federal Trade Commission (FTC), Consumer Financial Protection Bureau (CFPB) och Federal Reserve Board är alla flexibla med sina regleringsmekanismer för att skydda konsumenter mot negativa effekter som kan uppstå från den ökade användningen av AI som kan resultera i diskriminerande resultat, om än oavsiktligt. En AI-regleringsram är ett måste för alla innovativa företag.

Att uppnå tillförlitlig AI kräver data-drivna insikter

Implementering av tillförlitlig AI kan inte uppnås utan en data-driven ansats för att bestämma var tillämpningarna av AI-teknologier kan ha den största effekten innan man fortsätter med implementeringen. Är det för att förbättra kundengagemanget eller för att förverkliga operativa effektiviteter eller för att mildra regelefterlevnadsrisker?

Var och en av dessa affärsdrivare kräver en förståelse för hur processer körs, hur eskaleringar och undantag hanteras och identifierar variationer i processutförande, hinder och deras rotorsaker. Baserat på en sådan data-driven analys kan organisationer fatta informerade affärsbeslut om effekten och resultaten av implementeringen av AI-baserade lösningar för att minska kundpåverkansfriktion och förbättra operativa effektiviteter. När organisationer har fördelen av data-drivna insikter kan de sedan automatisera högt arbetsintensiva processer som att uppfylla AI-kompatibilitetskrav, regelefterlevnad, granskning, kundkännedom och penningtvätt i finansiella tjänster.

Huvudbudskapet är att en integrerad del av AI-aktiverad processautomatisering är implementeringen av tillförlitliga AI-bästa praxis. Etisk användning av AI bör inte betraktas som enbart en juridisk och moralisk skyldighet, utan som en affärsimperativ. Det är bra affärsverksamhet att vara transparent i tillämpningen av AI. Det främjar tillit och skapar varumärkeslojalitet.