Nieuwe niveaus van transparantie met AI – Thought Leaders

Door Balakrishna D R, Senior Vice President, Service Offering Head – Energy, Communications, Services, and AI and Automation services, bij Infosys.

Op 9 januari 2020 heeft de Wereldgezondheidsorganisatie de publieke kennisgeving van de Coronavirus-uitbraak in China gedaan. Drie dagen eerder had het Amerikaanse Centers for Disease Control and Prevention het nieuws al verspreid. Maar het was een Canadese gezondheidsmonitoringplatform dat hen beiden had voorbijgestreefd, door op 31 december 2019 al een waarschuwing aan zijn klanten te sturen over de uitbraak. Het platform, BlueDot, gebruikt AI-gestuurde algoritmes die buitenlandse nieuwsberichten, ziektenetwerken van dieren en planten en officiële aankondigingen scannen om zijn klanten een voorsprong te geven bij het vermijden van gevaarlijke zones zoals Wuhan.

In de afgelopen jaren is kunstmatige intelligentie de belangrijkste bron van transformatie, verstoring en concurrentievoordeel in de snel veranderende economie van vandaag. Van epidemiologisch onderzoek tot defensie, gezondheidszorg, autonome voertuigen en alles daartussen, AI krijgt breedte. PwC voorspelt dat AI mogelijk tot $15,7 biljoen kan bijdragen aan de mondiale economie in 2030, tegen het huidige groeitempo.

Maar ondanks alle hoop die AI biedt, roept het nog steeds onbeantwoorde vragen op over transparantie en betrouwbaarheid. Het is belangrijk om de beslissingscapaciteit van AI-systemen te begrijpen, te voorspellen en te vertrouwen, vooral in gebieden die cruciaal zijn voor leven, dood en persoonlijke welzijn.

Naar het onbekende

Toen geautomatiseerde redeneringssystemen voor het eerst werden geïntroduceerd om besluitvorming te ondersteunen, vertrouwden ze op handmatig gemaakte regels. Hoewel dit het makkelijk maakte om hun gedrag te interpreteren en aan te passen, waren ze niet schaalbaar. Machine learning-modellen arriveerden om deze noodzaak aan te pakken; ze hadden geen menselijke tussenkomst nodig en konden trainen vanuit data – hoe meer, hoe beter. Hoewel diepe leermodellen ongeëvenaard zijn in hun modelleringscapaciteit en toepasbaarheid, roept het feit dat deze modellen grotendeels zwarte dozen zijn, verontrustende vragen op over hun waarheid, betrouwbaarheid en vooroordelen in de context van hun brede gebruik.

Er is momenteel geen direct mechanisme om de redenering te traceren die impliciet wordt gebruikt door diepe leermodellen. Met machine learning-modellen die een black-box-natuur hebben, is de primaire vorm van verklarbaarheid bekend als post-hoc-verklarbaarheid, wat betekent dat de verklaringen worden afgeleid van de aard en eigenschappen van de door het model gegenereerde uitvoer. Vroege pogingen om regels uit neurale netwerken (zoals diepe leermodellen eerder bekend stonden) te extraheren, worden niet langer nagestreefd, omdat de netwerken te groot en gevarieerd zijn geworden voor haalbare regelextractie. Er is dus een dringende behoefte om interpretatie en transparantie in de fundamenten van AI-modellering te introduceren.

Uit de nacht, in het licht

Deze zorg heeft een behoefte aan transparantie in machine learning gecreëerd, wat heeft geleid tot de groei van verklarende AI, of XAI. Het zoekt naar een oplossing voor de belangrijkste problemen die onze vermogen om AI-besluitvorming volledig te vertrouwen belemmeren — waaronder vooroordelen en transparantie. Dit nieuwe veld van AI brengt verantwoordelijkheid om ervoor te zorgen dat AI de samenleving ten goede komt met betere resultaten voor alle betrokkenen.

XAI zal cruciaal zijn bij het helpen van de vooroordelen die inherent zijn aan AI-systemen en -algoritmes, die zijn geprogrammeerd door mensen wiens achtergronden en ervaringen onbewust leiden tot de ontwikkeling van AI-systemen die vooroordelen vertonen. Ongewenste vooroordelen, zoals discriminatie tegen een bepaalde nationaliteit of etniciteit, kunnen zich insluipen omdat het systeem een waarde toevoegt op basis van echte gegevens. Om een voorbeeld te geven: het kan worden ontdekt dat typische kredietverzuimers uit een bepaalde etnische achtergrond komen, maar het implementeren van een restrictief beleid op basis hiervan kan in strijd zijn met eerlijke praktijken. Foutieve gegevens zijn een andere oorzaak van vooroordelen. Bijvoorbeeld, als een bepaalde gezichtsherkenningsscanner 5% van de tijd onnauwkeurig is vanwege de huidskleur van de persoon of het licht dat op het gezicht valt, kan dit vooroordelen introduceren. Ten slotte, als uw steekproefgegevens geen ware weergave zijn van de gehele bevolking, is vooroordeel onvermijdelijk.

XAI richt zich op het begrijpen van de zwarte-doos-beslissingen van AI-systemen. Het inspecteert en probeert de stappen en modellen te begrijpen die bij het nemen van beslissingen zijn betrokken. Het beantwoordt cruciale vragen zoals: Waarom nam het AI-systeem een specifieke voorspelling of beslissing? Waarom deed het AI-systeem iets anders niet? Wanneer slaagde het AI-systeem of faalde het? Wanneer geven AI-systemen voldoende vertrouwen in de beslissing zodat u het kunt vertrouwen, en hoe kan het AI-systeem fouten corrigeren?

Verklarende, voorspelbare en traceerbare AI

Een manier om verklarbaarheid in AI-systemen te verkrijgen, is door machine learning-algoritmes te gebruiken die van nature verklarende eigenschappen hebben. Bijvoorbeeld, eenvoudigere vormen van machine learning zoals beslissingsbomen, Bayesiaanse classificatoren en andere algoritmes die een bepaalde mate van traceerbaarheid en transparantie in hun besluitvorming hebben. Zij kunnen de zichtbaarheid bieden die nodig is voor kritieke AI-systemen zonder al te veel prestaties of nauwkeurigheid op te offeren.

De behoefte om verklarbaarheid te bieden voor diepe leermodellen en andere complexere algoritmes, heeft ertoe geleid dat het Amerikaanse Defense Advanced Research Project Agency (DARPA) inspanningen onderneemt om verklarende AI-oplossingen te produceren via een aantal gefinancierde onderzoeksinitiatieven. DARPA beschrijft AI-verklarbaarheid in drie delen, waaronder voorspellingsnauwkeurigheid, wat betekent dat modellen de conclusies verklaren die zijn bereikt om toekomstige besluitvorming te verbeteren; beslissingsbegrip en vertrouwen van menselijke gebruikers en operators, evenals inspectie en traceerbaarheid van acties ondernomen door de AI-systemen.

Traceerbaarheid zal mensen in staat stellen om in AI-beslissingscycli te komen en de mogelijkheid hebben om te stoppen of de taken van het AI-systeem te controleren wanneer dat nodig is. Een AI-systeem wordt niet alleen verwacht om een bepaalde taak uit te voeren of beslissingen op te leggen, maar ook om een transparant rapport te verstrekken over waarom het specifieke beslissingen heeft genomen, inclusief de ondersteunende rationale.

Standaardisatie van algoritmes of zelfs XAI-benaderingen is momenteel niet mogelijk, maar het kan wel mogelijk zijn om niveaus van transparantie / niveaus van verklarbaarheid te standaardiseren. Standaardisatieorganisaties proberen gemeenschappelijke, standaardbegrippen van deze niveaus van transparantie te bereiken om communicatie tussen eindgebruikers en technologieleveranciers te faciliteren.

Naarmate regeringen, instellingen, ondernemingen en het algemene publiek afhankelijker worden van AI-gebaseerde systemen, zal het winnen van hun vertrouwen door een duidelijker transparantie van het beslissingsproces fundamenteel zijn. De lancering van de eerste wereldwijde conferentie die exclusief is gewijd aan XAI, de Internationale Gemeenschappelijke Conferentie over kunstmatige intelligentie: Workshop over Verklarende Kunstmatige Intelligentie, is verder bewijs dat de tijd van XAI is aangebroken.