Mangel på troværdig AI kan hæmme innovation og forretningsværdi

En ny undersøgelse blandt globale forretningsledere viser, at troværdig AI er en stor prioritet, men mange tager ikke nok skridt for at opnå det, og til hvilken pris?

I virkeligheden afslørede IBM-undersøgelsen, at 85% af respondentene er enige om, at forbrugere er mere tilbøjelige til at vælge et selskab, der er transparent om, hvordan deres AI-modeller er bygget, styret og brugt.

Men flertallet indrømmede, at de ikke havde taget nøgleforanstaltninger for at sikre, at deres AI er troværdig og ansvarlig, såsom reduktion af bias (74%), sporing af ydelsesvariationer og modeldrift (68%) og sikring af, at de kan forklare AI-drevne beslutninger (61%). Dette er bekymrende, især når man tager i betragtning, at brugen af AI fortsætter med at vokse – med 35%, der siger, at de nu bruger AI i deres forretning, op fra 31% året før.

Jeg deltog nyligt i den invitation-kun Corporate Innovation Summit i Toronto, hvor deltagerne udvekslede innovative ideer og præsenterede teknologier, der er klar til at forme fremtiden. Jeg havde privilegium at deltage i tre rundborde inden for finansielle tjenester, forsikring og detail, hvor tre nøgleområder opstod: behovet for mere gennemsigtighed for at fremme tillid til AI, demokratisering af AI gennem no-code/low-code og udvikling til at levere hurtigere tid-til-værdi og risikomindskning gennem AI-reguleringsgodskeprincipper.

Øg tilliden til AI-teknologier. COVID-19 forstærkede og accelererede trenden mod at omfavne AI-drevne chatbots, virtuelle finansielle assistenter og berøringsfrie kunde-onboarding. Denne trend vil fortsætte, som bekræftet i forskning fra Cap Gemini, der viser, at 78% af forbrugerne planlægger at øge brugen af AI-teknologier, herunder digital identitetsstyring i deres interaktioner med finansielle tjenesteydelser.

De indbyggede fordele til trods, opstår en række udfordringer. Chef blandt dem er forbrugernes fortsatte mistillid til AI-teknologier og hvordan deres almindelige natur påvirker deres privatlivs- og sikkerhedsrettigheder. 30% af forbrugerne angav, at de ville være mere komfortable med at dele deres biometriske information, hvis deres finansielle tjenesteydere gav mere gennemsigtighed i, hvordan deres information indsamles, styres og sikres.

CIO’er skal adoptere troværdige AI-principper og indføre strenge foranstaltninger, der sikrer privatlivs- og sikkerhedsrettigheder. De kan opnå dette gennem kryptering, data-minimering og sikrere autentificering, herunder overvejelse af fremvoksende decentraliserede digitale identitetsstandarder. Som resultat vil jeres intelligente automatiseringsbemænd og selvbetjeningsmuligheder se mere adoption og mindre menneskelig indgriben.

Fjern barrierer for demokratisering af AI. Der er en voksende skift mod no-code/low-code AI-applikationsudvikling, som forskning forudser vil nå 45,5 milliarder dollar i 2025. Hovedmotoren er hurtigere tid-til-værdi med forbedringer i applikationsudviklingsproduktivitet 10 gange.

For eksempel anså 56% af de finansielle tjenesteydelser, der blev spurgt, dataindsamling fra låntagere som en af de mest udfordrende og ineffektive skridt i låneansøgningsprocessen, hvilket resulterer i høje frafaldsrater. Mens AI-drevne biometriske identitets- og dataindsamlingsteknologier er beviset for at forbedre effektiviteten i låneansøgningsprocessen, kan de også skabe compliance-risici, særligt data privatliv, fortrolighed og AI-algoritme-bias.

For at mindske og afhjælpe sådanne risici skal low-code/no-code-applikationer inkludere omfattende testning for at sikre, at de fungerer i overensstemmelse med de oprindelige designmål, fjerner potentiel bias i træningsdata og er sikre mod fjendtlige AI-angreb, der kan have en negativ indvirkning på AI-algoritme-udfald. Overvejelse af ansvarlige datavidenskabsprincipper om retfærdighed, nøjagtighed, fortrolighed og sikkerhed er afgørende.

Udvikl en AI-styrings- og reguleringsramme. AI-styring er ikke længere en nice-to-have-initiativ, men en imperativ. Ifølge OECD’s tracker på nationale AI-politikker er der over 700 AI-reguleringsinitiativer under udvikling i over 60 lande. Der er dog frivillige adfærdskoder og etiske AI-principper udviklet af internationale standardorganisationer som Institute of Electrical and Electronic Engineers (IEEE) og National Institute of Standards and Technology (NIST).

Bekymringer fra organisationer omgærder antagelsen af, at AI-regulationer vil påføre dem flere rigorøse compliance-forpligtelser på dem, bakket op af strenge gennemførelsesmekanismer, herunder straffe for ikke-overholdelse. Dog er AI-regulering uundgåelig.

Europa og Nordamerika tager proaktive holdninger, der vil kræve, at CIO’er samarbejder med deres tekniske og forretningspartnere for at danne effektive politikker. For eksempel har den europæiske kommissions forslag til en kunstig intelligens-akt til formål at instituere risikobaserede forpligtelser på AI-udbydere for at beskytte forbrugerrettigheder, samtidig med at de fremmer innovation og økonomiske muligheder forbundet med AI-teknologier.

Derudover udgav den canadiske føderale regering i juni 2022 sin meget ventede Digital Charter Implementation Act, der beskytter mod negative virkninger af højrisiko-AI-systemer. USA følger også med AI-reguleringsinitiativer, omend på en sektorielt basis. Den føderale handelskommission (FTC), Forbrugerfinansiel beskyttelsesbureau (CFPB) og Den føderale reservebestyrelse er alle i færd med at udøve deres reguleringsmuskel gennem deres gennemførelsesmekanismer for at beskytte forbrugere mod negative virkninger, der kan opstå fra den øgede anvendelse af AI, der kan resultere i diskriminerende resultater, omend utilsigtet. En AI-reguleringsramme er en nødvendighed for enhver innovativ virksomhed.

Opnåelse af troværdig AI kræver data-drevne indsigt.

Implementering af troværdig AI kan ikke opnås uden en data-drevet tilgang for at bestemme, hvor anvendelsen af AI-teknologier kan have den største indvirkning, før man går i gang med implementeringen. Er det for at forbedre kundeengagement, eller for at realisere operationelle effektiviteter eller for at mindske compliance-risici?

Hver af disse forretningsdrivere kræver en forståelse af, hvordan processer udføres, hvordan eskaleringer og undtagelser håndteres, og hvordan variationer i procesudførelse og deres årsager identificeres. Baseret på sådan en data-drevet analyse kan organisationer træffe underrettet forretningsbeslutninger om indvirkningen og resultaterne forbundet med implementering af AI-baserede løsninger for at reducere kunde-onboarding-friction og forbedre operationelle effektiviteter. Når organisationer har fordelene af data-drevne indsigt, kan de så automatisere meget arbejdskrævende processer som opfyldelse af AI-compliance-krav, compliance-revision, KYC og AML i finansielle tjenester.

Hovedkonklusionen er, at en integreret del af AI-aktiveret procesautomatisering er implementering af troværdige AI-bedste praksis. Etisk brug af AI bør ikke kun betragtes som en juridisk og moral obligation, men som en forretningsimperativ. Det giver god forretningsfornuft at være transparent i anvendelsen af AI. Det fremmer tillid og skaber varemærke-loyalitet.