Google Creëert Nieuw Uitlegbaar AI-Programma Om Transparantie en Foutopsporingsmogelijkheden te Verbeteren

Onlangs heeft Google (GOOGL ) de creatie aangekondigd van een nieuw cloudplatform dat bedoeld is om inzicht te krijgen in hoe een AI-programma beslissingen neemt, waardoor het debuggen van een programma gemakkelijker wordt en de transparantie wordt verbeterd. Volgens The Register heet het cloudplatform Explainable AI en markeert het een belangrijke poging van Google om te investeren in AI-uitlegbaarheid.

Kunstmatige neurale netwerken worden gebruikt in veel, misschien wel de meeste, van de belangrijkste AI-systemen die vandaag in de wereld worden gebruikt. De neurale netwerken die grote AI-toepassingen uitvoeren, kunnen buitengewoon complex en groot zijn, en naarmate het systeem complexer wordt, wordt het steeds moeilijker om te begrijpen waarom een bepaalde beslissing is genomen. Zoals Google in hun white paper uitlegt, worden AI-systemen naarmate ze krachtiger worden, ook complexer en moeilijker te debuggen. Transparantie gaat ook verloren wanneer dit gebeurt, waardoor het moeilijk wordt om gebiaseerde algoritmen te herkennen en aan te pakken.

Het feit dat de redenering die de gedragingen van complexe systemen aandrijft zo moeilijk te interpreteren is, heeft vaak dramatische gevolgen. Naast het moeilijk maken om AI-vooringenomenheid te bestrijden, kan het buitengewoon moeilijk zijn om spurious correlaties van echt belangrijke en interessante correlaties te onderscheiden.

Veel bedrijven en onderzoeksinstellingen onderzoeken hoe ze het “black box”-probleem van AI kunnen aanpakken en een systeem kunnen creëren dat adequaat uitlegt waarom bepaalde beslissingen door een AI zijn genomen. Google’s Explainable AI-platform vertegenwoordigt hun eigen poging om deze uitdaging aan te pakken. Explainable AI bestaat uit drie verschillende tools. De eerste tool is een systeem dat beschrijft welke kenmerken door een AI zijn geselecteerd en het geeft ook een attributiescore weer, die de hoeveelheid invloed vertegenwoordigt die een bepaald kenmerk heeft op de uiteindelijke voorspelling. Google’s rapport over het instrument geeft een voorbeeld van het voorspellen van de duur van een fietstocht op basis van variabelen zoals regenval, huidige temperatuur, dag van de week en starttijd. Nadat het netwerk de beslissing heeft genomen, wordt feedback gegeven die aangeeft welke kenmerken de meeste invloed hadden op de voorspellingen.

Hoe geeft deze tool dergelijke feedback in het geval van beeldgegevens? In dit geval produceert het instrument een overlay die de regio’s van het beeld benadrukt die het zwaarst wegen op de genomen beslissing.

Een ander instrument in de toolkit is het “What-If”-instrument, dat potentiële fluctuaties in modelprestaties weergeeft wanneer individuele kenmerken worden gemanipuleerd. Ten slotte kan het laatste instrument worden ingesteld om steekproefresultaten aan menselijke reviewers te geven op een consistent schema.

Dokter Andrew Moore, Google’s hoofdwetenschapper voor AI en machine learning, beschreef de inspiratie voor het project. Moore legde uit dat de academische gemeenschap ongeveer vijf jaar geleden begon te maken zich zorgen over de schadelijke bijproducten van AI-gebruik en dat Google ervoor wilde zorgen dat hun systemen alleen op ethische manieren werden gebruikt. Moore beschreef een incident waarbij het bedrijf een computer-visieprogramma ontwierp om bouwvakkers te waarschuwen als iemand geen helm droeg, maar ze zich zorgen maakten dat de monitoring te ver kon gaan en ontmenselijkend kon worden. Moore zei dat er een soortgelijke reden was waarom Google besloot om geen algemene gezichtsherkenning-API uit te brengen, omdat het bedrijf meer controle wilde hebben over hoe hun technologie werd gebruikt en ervoor wilde zorgen dat deze alleen op ethische manieren werd gebruikt.

Moore benadrukte ook waarom het zo belangrijk was voor AI-beslissingen om uitlegbaar te zijn:

“Als je een veiligheidskritisch systeem hebt of een maatschappelijk belangrijk iets dat onbedoelde gevolgen kan hebben als je denkt dat je model een fout heeft gemaakt, moet je in staat zijn om het te diagnosticeren. We willen zorgvuldig uitleggen wat uitlegbaarheid kan en niet kan doen. Het is geen panacee.