5 Fundamentele Pijlers voor Verantwoordelijke AI

We zien een overweldigende groei in AI/ML-systemen om de oceanen van data te verwerken die in de nieuwe digitale economie worden gegenereerd. Echter, met deze groei, is er een behoefte om serieus de ethische en juridische implicaties van AI te overwegen.

Naarmate we steeds meer geavanceerde en belangrijke taken toevertrouwen aan AI-systemen, zoals automatische goedkeuring van leningen, bijvoorbeeld, moeten we absoluut zeker zijn dat deze systemen verantwoordelijk en betrouwbaar zijn. Het verminderen van vooroordelen in AI is een enorm gebied van focus geworden voor veel onderzoekers en heeft enorme ethische implicaties, evenals de hoeveelheid autonomie die we deze systemen geven.

Het concept van Verantwoordelijke AI is een belangrijk kader dat kan helpen bij het opbouwen van vertrouwen in uw AI-implementaties. Er zijn vijf kernpijlers voor Verantwoordelijke AI. Dit artikel zal deze onderzoeken om u te helpen betere systemen te bouwen.

1. Reproduceerbaarheid

Er is een oud gezegde in de software-ontwikkelingswereld dat luidt: “hey, het werkt op mijn machine” In ML en AI, kan het gezegde worden aangepast tot: “hey, het werkt op mijn dataset.” Dit wil zeggen dat machine learning-modellen vaak een black box kunnen zijn. Veel trainingsdatasets kunnen inherente vooroordelen hebben, zoals steekproefvooroordeel of bevestigingsvooroordeel, die de nauwkeurigheid van het eindproduct verminderen.

Om AI/ML-systemen meer reproduceerbaar te maken, en dus nauwkeuriger en betrouwbaarder, is de eerste stap om de MLOps-pijplijn te standaardiseren. Zelfs de slimste datawetenschappers hebben hun favoriete technologieën en bibliotheken, wat betekent dat de feature-engineering en de resulterende modellen niet uniform zijn van persoon tot persoon. Door tools zoals MLflow te gebruiken, kunt u de MLOps-pijplijn standaardiseren en deze verschillen verminderen.

Een andere manier om AI/ML-systemen meer reproduceerbaar te maken, is door het gebruik van zogenaamde “gold datasets”. Deze zijn representatieve datasets die als tests en validatie van nieuwe modellen dienen voordat ze voor productie worden vrijgegeven.

2. Transparantie

Zoals eerder vermeld, zijn veel ML-modellen, met name neurale netwerken, black boxes. Om ze meer aanspreekbaar te maken, moeten we ze meer interpreteerbaar maken. Voor eenvoudige systemen zoals beslissingsbomen, is het relatief eenvoudig om te begrijpen hoe en waarom het systeem een bepaalde beslissing heeft genomen, maar naarmate de nauwkeurigheid en complexiteit van een AI-systeem toeneemt, neemt de interpreteerbaarheid vaak af.

Er is een nieuw onderzoeksgebied genaamd “verklaarbaarheid” dat probeert transparantie te brengen, zelfs in complexe AI-systemen zoals neurale netwerken en diepe leerprocessen. Deze gebruiken proxy-modellen om de prestaties van een neurale netwerk te kopiëren, maar ze proberen ook geldige verklaringen te geven van welke kenmerken belangrijk zijn.

Dit leidt allemaal tot eerlijkheid; u wilt weten waarom een bepaalde beslissing is genomen en ervoor zorgen dat deze beslissing eerlijk is. U wilt ook ervoor zorgen dat ongepaste kenmerken niet worden overwogen, zodat vooroordelen niet in uw model terechtkomen.

3. Aanspreekbaarheid

Misschien het belangrijkste aspect van Verantwoordelijke AI is aanspreekbaarheid. Er is veel gesprek over dit onderwerp, zelfs in de overheidssector, omdat het gaat over welke beleidsmaatregelen AI-resultaten zullen bepalen. Deze beleidsgerichte aanpak bepaalt op welk moment mensen in de lus moeten zijn.

Aanspreekbaarheid vereist robuuste monitoren en metrieken om beleidsmakers en AI/ML-systemen te leiden. Aanspreekbaarheid verbindt reproduceerbaarheid en transparantie, maar het heeft effectieve toezicht nodig in de vorm van AI-ethische commissies. Deze commissies kunnen beleidsbeslissingen nemen, bepalen wat belangrijk is om te meten en eerlijkheidsbeoordelingen uitvoeren.

4. Beveiliging

AI-beveiliging richt zich op de vertrouwelijkheid en integriteit van data. Wanneer systemen data verwerken, wilt u dat ze in een beveiligde omgeving zijn. U wilt dat de data zowel versleuteld is tijdens de rust in uw database als tijdens het oproepen via de pijplijn, maar kwetsbaarheden bestaan nog steeds wanneer deze als platte tekst in een machine learning-model worden ingevoerd. Technologieën zoals homomorfische versleuteling lossen dit probleem op door machine learning-training toe te staan in een versleutelde omgeving.

Een ander aspect is de beveiliging van het model zelf. Bijvoorbeeld, modelomkeringaanvallen laten hackers toe om de trainingsdata te leren die zijn gebruikt om het model te bouwen. Er zijn ook modelvergiftigingsaanvallen, die slechte data in het model invoeren tijdens de training en de prestaties volledig schaden. Het testen van uw model op vijandige aanvallen zoals deze kan het veilig en beveiligd houden.

5. Privacyspecifieke aspecten

Google en OpenMined zijn twee organisaties die onlangs prioriteit hebben gegeven aan AI-privacyspecifieke aspecten, en OpenMined heeft onlangs een conferentie over dit onderwerp gehost. Met nieuwe regelgevingen zoals de AVG en de CCPA, en mogelijk meer regelgeving die eraan komt, zal privacy een centrale rol spelen in de manier waarop we machine learning-modellen trainen.

Een manier om ervoor te zorgen dat u de data van uw klanten op een privacyspecifieke manier verwerkt, is door gefedereerd leren te gebruiken. Deze gedecentraliseerde methode van machine learning traint verschillende modellen lokaal en agreggeert elk model in een centraal hub, terwijl de data veilig, beveiligd en privé blijft. Een andere methode is om statistische ruis toe te voegen, zodat individuele waarden van klanten niet worden gelekt. Dit houdt u bezig met het werken met het geheel, zodat de gegevens van een individu intact en niet beschikbaar zijn voor het algoritme.

Verantwoordelijke AI behouden

 Uiteindelijk is het behouden van verantwoordelijke AI de verantwoordelijkheid van elke organisatie die AI/ML-systemen ontwikkelt. Door opzettelijk technologieën binnen elk van deze vijf facetten van Verantwoordelijke AI na te streven, kunt u niet alleen profiteren van de kracht van kunstmatige intelligentie, maar kunt u dit ook doen op een betrouwbare en eenvoudige manier die uw organisatie, klanten en toezichthouders zal geruststellen.