Hoe Explainable AI de betrouwbaarheid en geloofwaardigheid verhoogt

Naarmate Artificial Intelligence (AI) wordt gedemocratiseerd in ondernemingen, wordt het langzaam ingebed in de stof van ons bestaan. Een belangrijk aspect van deze democratisering is dat eindgebruikers in staat moeten zijn om het proces en de mechanismen die AI gebruikt om tot een conclusie te komen of om de gewenste resultaten te bereiken, volledig te begrijpen. Als mensen hebben we een diepgewortelde behoefte om de “waarom” en “hoe” van elk fenomeen te ontdekken, wat onze technologische vooruitgang heeft versneld. In de context van AI wordt deze begrip “verklaarbaarheid” genoemd.

Waarom is verklaring nodig?

Meestal benaderen we AI als een “zwarte doos”, waarbij we alleen bekend zijn met de invoer en uitvoer, maar ergens zijn de processen die worden gebruikt ons onbekend. Dit probleem wordt verergerd door het feit dat de algoritmes die de meeste populaire vormen van AI aandrijven, zoals complexe diepe leerlingen voorspellingsystemen en Natural Language Processing (NLP), zeer abstract zijn, zelfs voor de meest ervaren beoefenaars.

Vertrouwen en transparantie: Om de voorspellingen van AI te vertrouwen, moet het een zekere mate van verklaring in zich hebben. Bijvoorbeeld, als een medisch specialist een behandeling moet aanbevelen op basis van de voorspellingen van AI, moet hij/zij vertrouwen hebben in de voorspelling. Een bank moet volledig vertrouwen hebben in de beslissing om een lening te weigeren of goed te keuren en moet in staat zijn om dit te verantwoorden aan alle stakeholders. Een AI die wordt gebruikt voor screening en werving moet aantonen dat de onderliggende mechanismen eerlijk en billijk zijn voor alle groepen van sollicitanten.

Maakt AI meer menselijk en verhoogt de adoptie: In het rapport “The state of AI in 2020” van McKinsey leren we dat een fabrikant extreem transparante modellen gebruikt voor acceptatie door hun fabrieksarbeiders, die vertrouwen moeten hebben in de oordelen van AI met betrekking tot hun veiligheid. Voor een snelle adoptie van AI is het verkrijgen van de goedkeuring van de stakeholders het belangrijkste obstakel voor het schalen van eenvoudige puntoplossingen naar het ondernemingsniveau en het maximaliseren van de investering. Dit wordt voor een groot deel verlicht als de prestaties verklarbaar zijn voor een breder publiek. Vanuit een bedrijfsperspectief verhoogt verklaring de totale gebruikerservaring en verhoogt de tevredenheid van de klant. Volgens de resultaten van een onderzoek van het IBM Institute for Business Value gelooft 68 procent van de topfunctionarissen dat klanten in de komende drie jaar meer verklaring van AI zullen eisen.

Ontdekken van vooroordelen en verbeteren van modelprestaties: Een ontwikkelaar moet weten hoe hij/zij de prestaties van het model kan verbeteren en hoe hij/zij het precies kan debuggen en fijnafstemmen. Een duidelijk verklaringskader is een van de belangrijkste instrumenten voor het uitvoeren van de grondige analyse die nodig is.

Krijgen van scherpere, meer omvattende inzichten: Een complete 360-gradenweergave is nodig voor een volledig begrip van alle voorschriften die door AI worden gedaan. Bijvoorbeeld, als AI wordt gebruikt voor het nemen van een beleggingsbeslissing, moet men ook weten wat de redenering achter deze beslissing is, zodat men deze kennis kan overdragen naar andere gebieden en ook de potentiële valkuilen van het nemen van deze beslissing kan begrijpen. Een goed begrip van hoe AI werkt, zal ook beslissers in staat stellen om nieuwe toepassingen te ontdekken.

Regelgeving en verantwoordelijkheid: Verschillende regelgevingen, zoals de GDPR, verplichten een recht op verklaring voor het aanpakken van de verantwoordelijkheidskwesties die voortkomen uit een geautomatiseerd beslissingsproces. In systemen zoals autonome voertuigen, als er iets misgaat en er verlies van leven en eigendom optreedt, is een juiste kennis van de oorzaak nodig, wat moeilijk te achterhalen zal zijn in een zwarte-doossysteem.

Hoe kan AI meer verklarbaar worden?

Verklaarbare Artificial Intelligence Systemen (XAI) worden ontwikkeld met behulp van verschillende technieken die zich richten op het verklaren van het model als geheel of op het verklaren van de redenering achter individuele voorspellingen met behulp van een algoritme.

De meeste verklaringsmethoden zijn afhankelijk van:

• Het opsplitsen van een model in afzonderlijke componenten)
• Visualisatie van modelvoorspellingen (bijvoorbeeld, als een model een auto classificeert als van een bepaald merk, worden de delen die tot deze classificatie hebben geleid, gemarkeerd)
• Verklaringsmijnbouw (het gebruik van machine learning-technieken om relevante gegevens te vinden die de voorspelling van een AI-algoritme verklaren).

In een dergelijke techniek, genaamd proxy-modellering, wordt een eenvoudiger en meer begrijpelijke model, zoals een beslissingsboom, gebruikt om het meer complexe AI-model bij benadering te representeren. Deze eenvoudige verklaringen geven een redelijk idee van het model op hoog niveau, maar kunnen soms bepaalde nuances onderdrukken.

Een andere benadering is “verklaarbaarheid door ontwerp” Deze benadering legt beperkingen op in het ontwerp en de training van het AI-netwerk op een nieuwe manier, die ernaar streeft om het totale netwerk op te bouwen uit kleinere en eenvoudigere verklarende componenten . Dit houdt een compromis in tussen het niveau van nauwkeurigheid en verklaring, en beperkt bepaalde benaderingen uit het gereedschapskist van de datawetenschapper. Het kan ook zeer rekenintensief zijn.

AI-training en -testen kunnen ook agnostische gegevensverificatietechnieken gebruiken, zoals Local Interpretable Model (LIME) en Shapley Additive exPlanations (SHAP), en deze moeten worden aangepast om een hoge nauwkeurigheid te bereiken met behulp van de F-score, precisie en andere metrieken. En, natuurlijk, alle resultaten moeten worden gemonitord en geverifieerd met behulp van een breed scala aan gegevens. Met LIME, bijvoorbeeld, kunnen organisaties tijdelijke modellen creëren die de voorspellingen van niet-transparante algoritmes zoals machine learning mimiceren. Deze LIME-modellen kunnen vervolgens een breed scala aan permutaties creëren op basis van een gegeven dataset en de corresponderende uitvoer, die kan worden gebruikt om eenvoudige en meer interpreteerbare modellen te trainen, samen met volledige lijsten met verklaringen voor elke beslissing en/of voorspelling. Het SHAP-kader, dat zijn fundamenten heeft in de speltheorie en specifiek in de coöperatieve speltheorie, is een model dat . Het combineert optimale krediettoewijzing met lokale verklaringen met behulp van de oorspronkelijke Shapley-waarden uit de speltheorie en hun afstammelingen.

Geprincipeerde operaties

Op een meer strategisch niveau moeten AI-betrouwbaarheidskaders echter een breed scala aan principes omvatten die gericht zijn op het waarborgen van adequate resultaten, zowel bij de eerste inzet als in de loop van de tijd, naarmate modellen evolueren in de aanwezigheid van veranderende omstandigheden. Minimaal moeten deze kaders dingen omvatten zoals:

• Vooroordeeldetectie – alle datasets moeten worden gereinigd van vooroordelen en discriminerende kenmerken en vervolgens de juiste gewicht en discretie krijgen wanneer ze worden toegepast op het trainingsmodel;
• Menselijke betrokkenheid – operators moeten in staat zijn om de uitvoer van algoritmes te onderzoeken en te interpreteren op alle momenten, met name wanneer modellen worden gebruikt voor handhaving van de wet en het behoud van burgerlijke vrijheden;
• Verantwoording – alle voorspellingen moeten in staat zijn om een onderzoek te doorstaan, wat van nature een hoge mate van transparantie vereist om buitenstaanders in staat te stellen de processen en criteria te beoordelen die worden gebruikt om resultaten te produceren;
• Reproduceerbaarheid – betrouwbare AI-modellen moeten consistent zijn in hun voorspellingen en moeten hoge niveaus van stabiliteit vertonen wanneer ze worden geconfronteerd met nieuwe gegevens.

Maar XAI moet niet alleen worden gezien als een middel om de winstgevendheid te verbeteren, maar om verantwoordelijkheid te brengen om ervoor te zorgen dat instellingen de impact van hun creaties op de samenleving als geheel kunnen verklaren en rechtvaardigen.