AI: Van de mensen, voor de mensen en door de mensen

Door: Balakrishna (Bali) D R, Senior Vice President, Service Offering Head – ECS, AI en Automation bij Infosys.

We zijn gelukkig om te leven in de tijd van technologie waarin Artificial Intelligence hard werkt om ons leven gemakkelijker te maken – onze telefoons herkennen ons nu en ontgrendelen als ze ons ‘zien’, we hebben praatkaarten die ons helpen de kortste, minst drukke paden te vinden om ons waar we willen gaan, slimme apparaten die onze huizen verwarmen en koelen voordat we het woord zeggen, intelligente apps die fraude voorspellen en voorkomen, en nog veel meer.

Echter, we hebben ook gevallen waarin deze slimme AI-gebaseerde systemen ons hebben teleurgesteld vanuit een eerlijkheid- en ethiekperspectief. Bijvoorbeeld, een gerenommeerde bank die met ons werkt, vermoedde dat de AI-modellen die ze gebruiken om kredietwaardigheid te beoordelen voordat ze leningen verstrekken, bevooroordeeld kunnen zijn, en ze vroegen ons om hulp. Op een andere gelegenheid werkte een machinefabrikant met ons samen om patronen van garantieclaims te analyseren om vooroordelen uit de dataset en het proces te elimineren voordat ze hun claims-goedkeuringsproces opnieuw ontwierpen en automatiseerden. AI-modellen voor werving, vinden we vaak, zijn gecorrumpeerd door vooroordelen van leeftijd, geslacht, ras, zelfs postcode soms, in hun datasets – oneerlijke resultaten opleverend als ze ongecontroleerd blijven.

Vanwege de enorme impact die AI-vooroordelen kunnen hebben op het hele bedrijf, zijn ethische vragen centraal komen te staan in de ontwikkeling, implementatie en het gebruik van AI-systemen. AI-systemen zijn een combinatie van veel menselijke beslissingen, die inherent ook op menselijke vooroordelen zijn gebaseerd. De bescherming van de autonomie en privacy van werknemers, de risico’s van vooroordelen die carrièregroei en kansen beïnvloeden, discriminatie op basis van huidskleur, ras of geslacht, het gebrek aan verklaring van keuzes gemaakt door AI-oplossingen en daardoor de verantwoordelijkheid van AI-besluitvorming, worden fel bediscussieerd als het gaat om het bespreken van AI en zijn verdiensten.

Verantwoordelijke AI creëren

AI-vooroordelen kunnen een golf-effect hebben op het hele bedrijf. Het is van belang dat IT-leiders ervoor zorgen dat ze AI op een ethische manier inzetten die samenwerkt met, en niet tegen, werknemers. Om dit te doen, moeten organisaties de volgende punten opnemen in hun AI-implementaties.

Gegevensbeheer: Het ethische gebruik van AI is ook afhankelijk van een goed beheerd gebruik van gegevens, vanaf het bronnen van gegevens op een ethische en transparante manier. Om dit te doen, moeten IT-leiders een goed gedefinieerd beheerkader opstellen dat zal waarborgen dat gegevensbeveiliging, -integriteit en -privacy, evenals het voorkomen van gegevenscorruptie en -verlies, allemaal noodzakelijk zijn.

Verantwoordelijkheid: Machine Learning-modellen moeten eerlijk, onbevooroordeeld, mensen gelijk behandelen en ook voordelen gelijkmatig verdelen (soortgelijke acceptatie- en afwijzingspercentages) over alle kenmerken zoals ras, religie, geslacht enz. Ze moeten een aanvaardbare nauwkeurigheid bereiken, niet alleen op het totale cijfer, maar ook op de minderheidsgroepen. Deze modellen moeten verklaren hoe de uitkomst tot stand komt. Bijvoorbeeld, kunnen verklaren waarom het model een leningaanvraag van aanvrager A afwees, maar dezelfde aanvraag van aanvrager B goedkeurde. IT-leiders die AI-oplossingen ontwikkelen, moeten de onderliggende logica die deze beslissingen drijft, duidelijk maken aan zakelijke stakeholders, zodat er een grotere transparantie binnen het bedrijf is.

Adversarial Robustness: Het hele AI-ecosysteem moet het eens zijn over de noodzaak om AI-modellen te testen en te hacken via simulaties om potentiële nadelige uitkomsten te bestuderen. Bijvoorbeeld, kunnen IT-leiders de volgende tests gebruiken om hun AI-systemen te controleren en zich voor te bereiden op potentiële obstakels.

• Gegevens wijzigen: de dataset die voor training wordt gebruikt, rechtstreeks wijzigen door gegevensinjectie, -wijziging en -corruptie
• Modellen wijzigen: testen op vertrouwensreductie en misclassificatie
• Hulpmiddelen: hulpmiddelen gebruiken om de resultaten te beïnvloeden of te corrumperen

Mens in de lus: AI-modellen moeten worden gedeactiveerd door mensen in de lus te hebben voor alle belangrijke beslissingspunten en een effectief back-upmechanisme of een alternatieve route te hebben als het AI-systeem moet worden teruggedraaid.

Sociaal akkoord voor AI ontwikkelen

Naast deze richtlijnen moeten we inclusieve discussies en beraadslagingen tussen alle leiders in het bedrijf bevorderen, over de voordelen, belangen, kosten en gevolgen van elke grote AI-implementatie. Alleen zulke inclusieve processen waarbij alle stakeholders betrokken zijn, om aanvaardbare uitkomsten te bespreken en te beslissen, en om de risico’s en voordelen af te wegen, zal waarschijnlijk AI-technologieën de licentie geven om in het hele bedrijf te opereren. Over het hele bedrijf, over voordelen, belangen, kosten en gevolgen van elke grote AI-implementatie. Alleen zulke inclusieve processen waarbij alle stakeholders betrokken zijn, om aanvaardbare uitkomsten te bespreken en te beslissen, en om de risico’s en voordelen af te wegen, zal waarschijnlijk AI-technologieën de licentie geven om in het hele bedrijf te opereren.