Geen betrouwbaar AI kan innovatie en bedrijfswaarde beperken

Een recente enquête onder wereldwijde zakelijke leiders toont aan dat betrouwbaar AI een grote prioriteit is, maar velen nemen niet genoeg stappen om dit te bereiken, tegen welke kosten?

Inderdaad, het IBM-enquête onthulde dat 85% van de respondenten het erover eens is dat consumenten eerder een bedrijf zullen kiezen dat transparant is over hoe hun AI-modellen zijn gebouwd, beheerd en gebruikt.

Toch gaven de meesten toe dat ze geen cruciale stappen hebben genomen om ervoor te zorgen dat hun AI betrouwbaar en verantwoordelijk is, zoals het verminderen van vooroordelen (74%), het volgen van prestatievariaties en modeldrift (68%), en ervoor zorgen dat ze AI-gedreven beslissingen kunnen verklaren (61%). Dit is verontrustend, vooral als je bedenkt dat het gebruik van AI blijft groeien – 35% zegt nu dat ze AI in hun bedrijf gebruiken, tegen 31% een jaar geleden.

Ik was onlangs aanwezig bij de exclusieve Corporate Innovation Summit in Toronto, waar deelnemers innovatieve ideeën uitwisselden en technologieën toonden die de toekomst zullen vormgeven. Ik had het voorrecht om deel te nemen aan drie rondetafelgesprekken binnen de financiële dienstverlening, verzekeringen en detailhandel, met drie belangrijke gebieden die naar voren kwamen: de noodzaak van meer transparantie om vertrouwen in AI te stimuleren, de democratisering van AI via no-code/low-code, en ontwikkeling om snellere tijd-tot-waarde en risicobeheersing te leveren via AI-regelgevingsbest practices.

Vertrouwen in AI-technologieën vergroten. COVID-19 heeft de trend naar AI-gedreven chatbots, virtuele financiële assistenten en touchless klantinschrijving versterkt en versneld. Deze trend zal voortduren, zoals bevestigd in onderzoek van Cap Gemini, dat aantoont dat 78% van de consumenten die zijn ondervraagd van plan zijn om het gebruik van AI-technologieën, waaronder digitale identiteitsbeheer, in hun interacties met financiële dienstverleners te vergroten.

De inherente voordelen ten spijt, doen zich een aantal uitdagingen voor. De belangrijkste hiervan is de voortdurende onwil van consumenten om AI-technologieën te vertrouwen en hoe hun alomtegenwoordige aard hun rechten op privacy en veiligheid beïnvloedt. 30% van de consumenten verklaarde dat ze meer comfortabel zouden zijn met het delen van hun biometrische informatie als hun financiële dienstverleners meer transparantie zouden bieden over hoe hun informatie wordt verzameld, beheerd en beveiligd.

CIO’s moeten betrouwbaarheidsbeginselen voor AI aannemen en strikte maatregelen treffen om de rechten op privacy en veiligheid te waarborgen. Ze kunnen dit bereiken door versleuteling, dataminimisatie en veiligere authenticatie, waaronder het overwegen van opkomende gedecentraliseerde digitale identiteitsnormen. Als resultaat zullen uw inspanningen op het gebied van intelligente automatisering en selfservice meer worden geadopteerd en minder menselijke interventie vereisen.

Beperkingen voor de democratisering van AI wegnemen. Er is een groeiende trend naar de ontwikkeling van no-code/low-code AI-toepassingen, die onderzoek voorspelt dat deze tegen 2025 een waarde van 45,5 miljard dollar zal bereiken. De belangrijkste drijver is snellere tijd-tot-waarde met verbeteringen in de productiviteit van toepassingsontwikkeling met 10x.

Bijvoorbeeld beschouwt 56% van de financiële dienstverleners die zijn ondervraagd gegevensverzameling van leners als een van de meest uitdagende en inefficiënte stappen in het leningsaanvraagproces, wat resulteert in hoge afwijzingspercentages. Terwijl AI-gedreven biometrische identificatie- en gegevensverzamelingstechnologieën bewezen hebben efficiëntie in het leningsaanvraagproces te verbeteren, kunnen ze ook compliancerisico’s creëren, met name gegevensbescherming, vertrouwelijkheid en AI-algoritmevooroordeel.

Om dergelijke risico’s te mitigeren en te remediëren, moeten no-code/low-code-toepassingen omvattende tests omvatten om ervoor te zorgen dat ze overeenkomen met de initiële ontwerpdoelstellingen, potentieel vooroordeel in de trainingsdataset verwijderen dat kan bestaan uit steekproefvooroordeel, labelvooroordeel, en beveiligd zijn tegen vijandige AI-aanvallen die AI-algoritme-uitkomsten nadelig kunnen beïnvloeden. Het overwegen van verantwoordelijke datasciencebeginselen van eerlijkheid, nauwkeurigheid, vertrouwelijkheid en beveiliging is van het grootste belang.

Ontwikkel een AI-governance- en regelgevingskader. AI-governance is geen nice-to-have-initiatief meer, maar een imperatief. Volgens de AI-beleidstracker van de OESO zijn er meer dan 700 AI-regelgevingsinitiatieven in ontwikkeling in meer dan 60 landen. Er zijn echter vrijwillige gedragscodes en ethische AI-beginselen ontwikkeld door internationale standaardisatieorganisaties zoals het Institute of Electrical and Electronic Engineers (IEEE) en het National Institute of Standards and Technology (NIST).

Zorgen van organisaties omtrent de veronderstelling dat AI-regelgeving meer rigorieuze compliancetakken op hen zal leggen, gesteund door zware handhavingsmechanismen, waaronder boetes voor niet-naleving. Toch is AI-regelgeving onvermijdelijk.

Europa en Noord-Amerika nemen proactieve stappen die CIO’s ertoe zullen dwingen om samen te werken met hun technologie- en zakenpartners om effectief beleid te vormen. Zo heeft de Europese Commissie een Artificial Intelligence Act voorgesteld, die voorstelt om risicogebaseerde verplichtingen op te leggen aan AI-aanbieders om consumentenrechten te beschermen, terwijl tegelijkertijd innovatie en economische kansen in verband met AI-technologieën worden bevorderd.

Bovendien heeft de Canadese federale regering in juni 2022 haar lang verwachte Digital Charter Implementation Act uitgebracht, die bescherming biedt tegen nadelige gevolgen van high-risk AI-systemen. De VS gaat ook door met AI-regelgevingsinitiatieven, zij het op sectorale basis. De Federal Trade Commission (FTC), de Consumer Financial Protection Bureau (CFPB) en The Federal Reserve Board zijn allemaal bezig met het uitoefenen van hun regelgevende spierkracht via hun handhavingsmechanismen om consumenten te beschermen tegen nadelige gevolgen die voortkomen uit de toegenomen toepassing van AI die tot discriminatoire resultaten kan leiden, zij het onbedoeld. Een AI-regelgevingskader is een must voor elk innovatief bedrijf.

Vertrouwd AI bereiken vereist gegevensgestuurde inzichten

De implementatie van vertrouwd AI kan niet worden bereikt zonder een gegevensgestuurde aanpak om te bepalen waar de toepassingen van AI-technologieën het grootste effect kunnen hebben voordat u met de implementatie begint. Is het om klantbetrokkenheid te verbeteren, om operationele efficiëntie te realiseren of om compliancerisico’s te mitigeren?

Elk van deze zakelijke stuurprogramma’s vereist een begrip van hoe processen worden uitgevoerd, hoe escalaties en uitzonderingen worden afgehandeld, en identificeert variaties in procesuitvoering, knelpunten en hun oorzaken. Op basis van een dergelijke gegevensgestuurde analyse kunnen organisaties geïnformeerde zakelijke beslissingen nemen over het effect en de resultaten die zijn verbonden met de implementatie van AI-gebaseerde oplossingen om klantinschrijvingswrijving te verminderen en operationele efficiëntie te verbeteren. Zodra organisaties de voordelen van gegevensgestuurde inzichten hebben, kunnen ze vervolgens zeer arbeidsintensieve processen automatiseren, zoals het voldoen aan AI-compliancemaatregelen, compliancetoetsing, KYC en AML in financiële dienstverlening.

De belangrijkste conclusie is dat een integraal onderdeel van AI-geactiveerde procesautomatisering de implementatie van vertrouwde AI-beste praktijken is. Ethisch gebruik van AI moet niet alleen worden beschouwd als een wettelijke en morele verplichting, maar als een zakelijk imperatief. Het is goed zakelijk om transparant te zijn in de toepassing van AI. Het creëert vertrouwen en bevordert merkloyaliteit.