Hoe bedrijven verantwoorde en transparante AI kunnen creëren – Thought Leaders

Door Eric Paternoster, CEO van Infosys Public Services

Sundar Pichai, CEO van Google -moederbedrijf Alphabet, heeft ontwikkelingen in AI omschreven als “dieper dan vuur of elektriciteit”, en COVID-19 heeft een nieuwe urgentie gebracht in het beloven van deze technologie. Toepassingen van AI staan nu stevig in de schijnwerpers, verbeteren COVID-behandelingen, traceren potentiële COVID-dragers en implementeren real-time chatbots voor gebruikers van retailwebsites die door de bevoorrading worden getroffen. Deze toepassingen hebben aangetoond dat AI de veerkracht van een bedrijf verbetert en bredere maatschappelijke voordelen oplevert.

Maar samen met “cloud-native” kan het buzzwoord van het laatste kwartaal wel eens “AI-first-transformatie” zijn, een term die industriepraktijkers geloven dat deze zelfs na COVID zal standhouden. Voor veel bedrijven is de belofte van lagere kosten (d.w.z. supply chain-algoritmen die aanbod en vraag matchen) en aanzienlijke productiviteitsverbeteringen (d.w.z. wanneer banken documenten en identiteitsverificatie in real-time gebruiken) te goed om te negeren.

Waarom AI-First Transformatie?

Bij AI-first-transformatie gebruikt een onderneming AI als een kompas, werkend om het niet alleen intelligent te gebruiken, maar ook op een manier die invloed heeft op beslissingen die door mensen, processen en systemen op grote schaal worden genomen. Het stemt organisaties af op veranderende dynamiek tussen medewerkers, partners en klanten. Dit stelt hen in staat om snel te pivoteren en veranderende vraag te vervullen, waardoor ze een langetermijnconcurrentievoordeel creëren.

Maar niet alle bedrijven zijn op hetzelfde niveau van AI-maturiteit. Er zijn er enkele die de “conventionele AI-groep” kunnen worden genoemd, of H1. Deze bedrijven, die minder ervaring en investeringen hebben, gebruiken over het algemeen klassieke algoritmen zoals naïeve Bayes, die al 250 jaar bestaat, of random forest (ontwikkeld door Tin Kam Ho in 1995) om gefragmenteerde intelligentie binnen bestaande systemen te verhogen. Dergelijke gebruiken van AI zijn strikt op regels gebaseerd en vrij rigide, zonder de mogelijkheid om te generaliseren van de regels die ze ontdekken. Dan is er de “deep learning-groep”, of H2. Deze bedrijven omarmen complexere AI, waaronder neurale machinetranslaties en transcriptie-gebaseerde systemen, om conversatie-inzichten te delven. Dergelijke systemen hebben meer macht, maar kunnen niet gemakkelijk uitleggen waarom ze de dingen doen die ze doen. Ze ontbreken ook aan transparantie. Voor deze twee groepen is de AI die wordt gebruikt vaak niet betrouwbaar of betrouwbaar en kan bevooroordeelde beslissingen nemen die het bedrijf negatieve aandacht van overheidsinstanties, toezichthouders en het bredere publiek opleveren.

Deze bedrijven moeten nu stappen ondernemen om hun AI-implementaties een stap verder te brengen – naar een derde kamp (H3) waar AI zelflerend en generatief is. Op dit punt zijn AI-systemen semi-begeleid of zelfs onbegeleid. Ze zijn transparant en bereiken “gezond verstand” door middel van multitask-leren. Deze systemen leveren rijkere intelligentie en bieden real-time, actiegerichte inzichten. Dit gebeurt door goed beheerde, beheerde AI die interpreteerbaar en uitlegbaar is op alle niveaus.

Hoe te werken aan meer verantwoorde, transparante AI

AI wordt steeds vaker gebruikt om scholen, werkruimten en andere openbare entiteiten te beheren. In deze instellingen is het belangrijker dan ooit dat de AI eerlijk en transparant is. Echter, terwijl de samenleving door deze explosie van AI-adoptie werkt, bieden regelgevende instanties beperkte richtlijnen voor de passende ontwikkeling en implementatie van AI-technologieën. Dus ligt de verantwoordelijkheid bij bedrijven om de leiding te nemen. De bredere technologie-industrie moet financiële middelen en menselijk kapitaal inzetten om initiële implementaties van gefragmenteerde AI om te zetten in efficiënte, creatieve, verantwoorde en transparante intelligentie-gedreven ecosystemen. Om in deze ruimte te komen, moeten bedrijven de volgende vier dingen doen:

• Mensen in de lus houden: AI-modellen zijn vaak ontworpen om onafhankelijk van mensen te werken. Echter, het menselijke element is cruciaal in veel gevallen. Mensen moeten beslissingen controleren en voorkomen dat vooroordelen en fouten die vaak AI-projecten ontsporen. Twee use cases zijn fraudeopsporing en gevallen waarbij de politie betrokken is. We raden bedrijven aan om AI-praktijkbeoefenaars langzaam maar consistent over tijd in te huren om een voorsprong te krijgen in hun AI-first-reis.
• Bevooroordeelde datasets elimineren: Een onbevooroordeelde dataset is een kritische vereiste om betrouwbare, eerlijke en niet-discriminerende AI-modellen te maken. Om een idee te krijgen van de belangrijkheid, wordt AI gebruikt voor het shortlisten van cv’s en kredietbeoordeling door banken, en het heeft zelfs zijn weg gevonden in sommige rechtsstelsels. In dit landschap hebben ongecontroleerde vooroordelen heel reële implicaties gehad.
• Zorgen dat beslissingen uitlegbaar zijn: Deze functie is behandeld door veel van de grote nieuwsuitzendingen, en terecht. XAI helpt uitleggen waarom een AI-systeem een bepaalde beslissing nam. Het onthult welke kenmerken van het diepe leermodel vaker werden gebruikt dan andere om zijn voorspelling of hypothese te maken. Het begrijpen van kenmerkbelang en het kunnen rechtvaardigen van hoe beslissingen worden genomen, is cruciaal voor use cases zoals autonome voertuigen en computervisie die in medische biopsieën wordt gebruikt.
• Betrouwbaar reproduceren van resultaten: Een gebruikelijke noodzaak in onderzoeksprojecten, AI-modellen moeten consistent zijn wanneer ze voorspellingen geven over tijd. Dergelijke modellen mogen niet worden beïnvloed wanneer ze worden gepresenteerd met nieuwe gegevens.

Deze vier dingen zullen transparante, intelligentie-gedreven ecosystemen creëren, die zich ontwikkelen tot wat we een “live onderneming” noemen. Hier worden onbevooroordeelde, uitlegbare beslissingen genomen in bijna-reële tijd, met het hele bedrijf dat fungeert als een levend organisme dat wordt bestuurd door mensen. Lees het Infosys Knowledge Institute-witboek om meer te weten te komen.