Mangel på trovverdig AI kan hemme innovasjon og forretningsverdi

En nylig undersøkelse blant globale forretningsledere viser at trovverdig AI er en stor prioritet, men mange tar ikke nok skritt for å oppnå det, og til hvilken pris?

Faktisk avslørte IBM-undersøkelsen at hele 85% av respondentene er enige om at forbrukerne er mer sannsynlig å velge et selskap som er åpent om hvordan deres AI-modeller er bygget, håndtert og brukt.

Likevel innrømmet majoriteten at de ikke har tatt nøkkeltiltak for å sikre at deres AI er trovverdig og ansvarlig, som å redusere bias (74%), spore ytelsesvariasjoner og modell-drift (68%), og sikre at de kan forklare AI-drevne beslutninger (61%). Dette er bekymringsverdig, særlig når man tar i betraktning at bruken av AI øker – med 35% som sier at de nå bruker AI i sin forretning, opp fra 31% for ett år siden.

Jeg deltok nylig på den inviterte Corporate Innovation Summit i Toronto, hvor deltakerne utvekslet innovative ideer og viste frem teknologier som er klar til å forme fremtiden. Jeg hadde privileget til å delta i tre runde bord-møter innen finansielle tjenester, forsikring og detaljhandel-sektorer med tre nøkkelområder som kom frem: behovet for mer åpenhet for å fremme tillit til AI, demokratisering av AI gjennom no-code/low-code, og utvikling for å levere raskere tid-til-verdi og risikomildring gjennom AI-regulerings beste praksis.

Øk tillit til AI-teknologier. COVID-19 forsterket og akselererte trenden mot å omfavne AI-drevne chatbots, virtuelle finansielle assistenter og berøringsfrie kunde-oppstart. Denne trenden vil fortsette, som bekreftet i forskning fra Cap Gemini, som viser at 78% av forbrukerne som ble spurte planlegger å øke bruken av AI-teknologier, inkludert digital identitetshåndtering i deres interaksjoner med finansielle tjenesteselskaper.

De innebygde fordelene til side, oppstår det en rekke utfordringer. Blant dem er fortsatt forbrukertillit til AI-teknologier og hvordan deres allmenne natur påvirker deres personverns- og sikkerhetsrettigheter. 30% av forbrukerne sa at de ville være mer komfortable med å dele sine biometriske opplysninger hvis deres finansielle tjenesteleverandører ga mer åpenhet om hvordan deres informasjon ble samlet inn, håndtert og sikret.

CIO-er må adoptere trovverdige AI-prinsipper og innføre strenge tiltak som sikrer personvern og sikkerhetsrettigheter. De kan oppnå dette gjennom kryptering, dataminimering og sikrere autentisering, inkludert å vurdere fremvoksende desentraliserte digitale identitetsstandarder. Som et resultat vil deres intelligente automatiseringsinnsats og selvbetjenings tilbud se mer utbredelse og mindre behov for menneskelig inngripen.

Fjern barrierer for demokratisering av AI. Det er en økende trend mot no-code/low-code AI-applikasjonsutvikling, som forskning forutsier vil nå 45,5 milliarder dollar i 2025. Hoveddriveren er raskere tid til verdi med forbedringer i applikasjonsutviklingsproduktivitet 10 ganger.

For eksempel anså 56% av finansielle tjenesteselskaper som ble spurte datainnsamling fra låntakere som ett av de mest utfordrende og ineffektive stegene i låneansøkningsprosessen, med høye frafallsrater. Mens AI-drevne biometriske identifikasjon og datainnsamlingsteknologier er bevist å forbedre effektiviteten i låneansøkningsprosessen, kan de også skape compliance-risiko, særlig datapersonvern, konfidensialitet og AI-algoritme-bias.

For å mildne og rette opp slike risikoer må no-code/low-code-applikasjoner inkludere omfattende testing for å sikre at de fungerer i henhold til de opprinnelige designmålene, fjerne potensiell bias i treningsdatamengden som kan inkludere sampling-bias, labeling-bias, og er sikret mot motstandsdyktige AI-angrep som kan påvirke AI-algoritme-utfall negativt. Vurdering av ansvarlige data-vitenskapelige prinsipper om rettferdighet, nøyaktighet, konfidensialitet og sikkerhet er avgjørende.

Utvikle en AI-styrings- og reguleringsramme. AI-styring er ikke lenger et ønske, men et imperativ. Ifølge OECDs sporingsliste over nasjonale AI-politikker, er det over 700 AI-reguleringsinitiativer under utvikling i over 60 land. Det finnes imidlertid frivillige retningslinjer for ansvarlig AI og etiske AI-prinsipper utviklet av internasjonale standardiseringsorganisasjoner som Institute of Electrical and Electronic Engineers (IEEE) og National Institute of Standards and Technology (NIST).

Bekymringer fra organisasjoner omgår antagelsen at AI-reguleringer vil påføre dem mer strengere overholdelsesplikter med påfølgende håndhevelsesmekanismer, inkludert straffer for ikke-overholdelse. Likevel er AI-regulering uunngåelig.

Europa og Nord-Amerika tar proaktive holdninger som vil kreve at CIO-er samarbeider med sine tekniske og forretningsmotparter for å danne effektive politikker. For eksempel har Den europeiske kommisjon foreslått en kunstig intelligens-akt som foreslår å instituere risikobaserte forpliktelser på AI-leverandører for å beskytte forbrukerrettigheter, samtidig som de fremmer innovasjon og økonomiske muligheter forbundet med AI-teknologier.

I tillegg ga den canadiske føderale regjeringen i juni 2022 ut sin høyt ventede Digital Charter Implementation Act, som beskytter mot negative konsekvenser av høyrisiko AI-systemer. USA går også videre med AI-reguleringsinitiativer, om enn på en sektoriell basis. Den føderale handelskommisjonen (FTC), Forbrukerfinansieringsbeskyttelsesbyrået (CFPB) og Den føderale reservebanken utøver alle sine reguleringsmusklene gjennom sine håndhevelsesmekanismer for å beskytte forbrukere mot negative konsekvenser som kan oppstå fra økt bruk av AI som kan føre til diskriminerende resultater, om enn uforsettlig. En AI-reguleringsramme er et måtte for enhver innovativ bedrift.

Oppnåelse av trovverdig AI krever data-drevne innsikter

Implementering av trovverdig AI kan ikke oppnås uten en data-drevet tilnærming for å bestemme hvor bruken av AI-teknologier kan ha størst innvirkning før implementering. Er det for å forbedre kundeengasjement, eller for å realisere operasjonelle effektiviteter eller for å mildne overholdelsesrisiko?

Hver av disse forretningsdriverne krever en forståelse av hvordan prosesser utføres, hvordan eskalasjoner og unntak håndteres, og identifisere variasjoner i prosessutførelse, hindringer og deres årsaker. Basert på en slik data-drevet analyse kan organisasjoner ta informerte forretningsbeslutninger om påvirkning og resultater forbundet med implementering av AI-baserte løsninger for å redusere kunde-oppstartsfriksjon og forbedre operasjonelle effektiviteter. Når organisasjoner har fordelen av data-drevne innsikter, kan de så automatisere svært arbeidskrevende prosesser som å møte AI-overholdelseskrav, overholdelsesauditing, KYC og AML i finansielle tjenester.

Hovedpoenget er at en integrert del av AI-aktiver procesautomatisering er implementering av trovverdige AI-praksis. Etisk bruk av AI bør ikke bare anses som en lovmessig og moralsk forpliktelse, men som en forretningsimperativ. Det er god forretningsmessig å være åpen i bruken av AI. Det fremmer tillit og skaper merke-loyalitet.