Mangel på troværdig AI kan hæmme innovation og forretningsværdi

En ny undersøgelse blandt globale erhvervsledere viser, at troværdig AI er en stor prioritet, men mange tager ikke nok skridt for at opnå det, men til hvilken pris?

Sandelig viser IBM-undersøgelsen, at en overvældende 85% af respondenternes er enige om, at forbrugerne er mere tilbøjelige til at vælge et selskab, der er transparent om, hvordan deres AI-modeller er bygget, styret og brugt.

Men flertallet indrømmede, at de ikke havde taget nøgleforanstaltninger for at sikre, at deres AI er troværdig og ansvarlig, såsom reduktion af bias (74%), sporing af præstationsvariationer og modeldrift (68%) og sikring af, at de kan forklare AI-drevne beslutninger (61%). Dette er bekymrende, især når man tager i betragtning, at brugen af AI fortsætter med at vokse – med 35%, der siger, at de nu bruger AI i deres forretning, op fra 31% året før.

Jeg deltog nyligt i den invitation-kun Corporate Innovation Summit i Toronto, hvor deltagerne udvekslede innovative ideer og præsenterede teknologier, der er klar til at forme fremtiden. Jeg havde privilegium at deltage i tre rundborde inden for finansielle services, forsikring og detailsegmenter med tre nøgleområder, der kom frem: behovet for mere transparens for at skabe tillid til AI, demokratisering af AI gennem no-code/low-code og udvikling for at levere hurtigere tid-til-værdi og risikomindskning gennem AI-reguleringsstyring bedste praksis.

Øg tilliden til AI-teknologier. COVID-19 forstærkede og accelererede trenden mod at omfavne AI-drevne chatbots, virtuelle finansielle assistenter og berøringsfri kunde-onboarding. Denne trend vil fortsætte, som bekræftet i forskning af Cap Gemini, der viser, at 78% af de adspurgte forbrugere planlægger at øge brugen af AI-teknologier, herunder digital identitetsstyring i deres interaktioner med finansielle services-organisationer.

De indre fordele til trods, opstår en række udfordringer. Chef blandt dem er forbrugernes fortsatte mistillid til AI-teknologier og hvordan deres almindelige natur påvirker deres privatlivs- og sikkerhedsrettigheder. 30% af forbrugerne angav, at de ville være mere komfortable med at dele deres biometriske information, hvis deres finansielle serviceudbydere gav mere transparens i forklaringen af, hvordan deres information indsamles, styres og sikres.

CIO’er skal adoptere troværdige AI-principper og indføre strenge foranstaltninger, der sikrer privatlivs- og sikkerhedsrettigheder. De kan opnå dette gennem kryptering, dataminimering og sikrere autentificering, herunder overvejelse af fremvoksende decentraliserede digitale identitetsstandarder. Som resultat heraf vil jeres intelligente automatiseringsbemühninger og selvbetjeningsudbud se mere adoption og mindre menneskelig indgriben.

Fjern barrierer for demokratisering af AI. Der er en voksende skift mod no-code/low-code AI-applikationsudvikling, som forskning forudser vil nå 45,5 milliarder dollars i 2025. Hovedmotoren er hurtigere tid til værdi med forbedringer i applikationsudviklingsproduktivitet 10 gange.

For eksempel anså 56% af de finansielle services-organisationer, der blev adspurgt, dataindsamling fra låntagerne som en af de mest udfordrende og ineffektive skridt inden for låneansøgningsprocessen, hvilket resulterer i høje frafaldsrater. Mens AI-drevne biometriske identifikation og dataindsamlingsteknologier er bevist at forbedre effektiviteten i låneansøgningsprocessen, kan de også skabe overholdelsesrisici, særligt dataprivatliv, fortrolighed og AI-algoritme-bias.

For at mindske og afhjælpe sådanne risici skal low-code/no-code-applikationer inkludere omfattende testning for at sikre, at de fungerer i overensstemmelse med de oprindelige designmål, fjerne potentiel bias i træningsdatastammen, der kan inkludere sampling-bias, mærkningsbias og sikre, at de er sikre mod fjendtlige AI-angreb, der kan påvirke AI-algoritme-udfald negativt. Overvejelse af ansvarlige datavidenskabsprincipper om retfærdighed, nøjagtighed, fortrolighed og sikkerhed er afgørende.

Udvikl en AI-styrings- og reguleringsramme. AI-styring er ikke længere et ønske, men en imperativ. Ifølge OECD’s sporingsværktøj til nationale AI-politikker er der over 700 AI-reguleringsinitiativer under udvikling i over 60 lande. Der er dog frivillige adfærdskoder og etiske AI-principper udviklet af internationale standardiseringsorganisationer såsom Institute of Electrical and Electronic Engineers (”IEEE”) og National Institute of Standards and Technology (NIST).

Bekymringer fra organisationer omgærder antagelsen af, at AI-regulationer vil påføre dem flere strenge overholdelsesforpligtelser på dem, bakket op af strenge gennemførelsesmekanismer, herunder straffe for ikke-overholdelse. Dog er AI-regulering uundgåelig.

Europa og Nordamerika tager proaktive stillinger, der vil kræve, at CIO’er samarbejder med deres tekniske og forretningspartnere for at danne effektive politikker. For eksempel har den europæiske kommissions forslag om en kunstig intelligenslov foreslået at indføre risikobaserede forpligtelser på AI-udbydere for at beskytte forbrugerrettigheder, samtidig med at de fremmer innovation og økonomiske muligheder forbundet med AI-teknologier.

Derudover udgav den canadiske føderale regering i juni 2022 sin meget ventede Digital Charter Implementation Act, der beskytter mod negative virkninger af højrisiko-AI-systemer. USA fortsætter også med AI-reguleringsinitiativer, omend på sektorielt niveau. Federal Trade Commission (FTC), Forbrugerfinansiel beskyttelsesbureau (CFPB) og Federal Reserve Board er alle i færd med at udøve deres reguleringsmuskel gennem deres gennemførelsesmekanismer for at beskytte forbrugere mod negative virkninger, der kan opstå fra den øgede anvendelse af AI, der kan resultere i diskriminerende udfald, om end uventet. En AI-reguleringsramme er et must for enhver innovativ virksomhed.

Opnåelse af troværdig AI kræver data-drevne indsighter

Implementering af troværdig AI kan ikke opnås uden en data-dreven tilgang for at bestemme, hvor anvendelsen af AI-teknologier kan have den største indvirkning, før man går i gang med implementeringen. Er det for at forbedre kundeengagement, eller for at realisere operationelle effektiviteter eller for at mindske overholdelsesrisici?

Hver af disse forretningsdrivere kræver en forståelse af, hvordan processer udføres, hvordan eskaleringer og undtagelser håndteres, og identificerer variationer i procesudførelse-hindringer og deres rodårsager. Baseret på sådanne data-drevne analyser kan organisationer træffe underrettet forretningsbeslutninger omkring virkningen og udfaldene forbundet med implementering af AI-baserede løsninger for at reducere kunde-onboarding-friction og forbedre operationelle effektiviteter. Når organisationer har fordelene af data-drevne indsighter, kan de så automatisere meget arbejdskrævende processer såsom opfyldelse af AI-overholdelsesmandater, overholdelsesrevision, KYC og AML i finansielle services.

Hovedpunktet er, at en integreret del af AI-aktiveret procesautomatisering er implementering af troværdige AI-bedste praksis. Etisk brug af AI skal ikke kun betragtes som en juridisk og moral obligation, men som en forretningsimperativ. Det giver god forretningsfornuft at være transparent i anvendelsen af AI. Det fremmer tillid og fremkalder mærkeloyalitet.