Het ontmaskeren van vooroordelen in kunstmatige intelligentie: uitdagingen en oplossingen

De recente vooruitgang in generatieve AI heeft geleid tot een toename van het gebruik van deze technologie in verschillende industrieën, waaronder financiën, gezondheidszorg en transport. De ontwikkeling van deze technologie zal ook leiden tot andere opkomende technologieën, zoals cybersecurity-verdedigingstechnologieën, quantumcomputing-vooruitgang en doorbraakdraadloze communicatietechnieken. Echter, deze explosie van next-generation technologieën komt met zijn eigen set van uitdagingen.

Om bijvoorbeeld te noemen, kan de adoptie van AI leiden tot meer geavanceerde cyberaanvallen, geheugen- en opslagproblemen door de toename van rekenkracht en ethische zorgen over vooroordelen in AI-modellen. Het goede nieuws is dat NTT Research een manier heeft voorgesteld om vooroordelen in diepe neurale netwerken (DNN’s) te overwinnen, een type kunstmatige intelligentie.

Dit onderzoek is een significante doorbraak, aangezien niet-vooringenomen AI-modellen zullen bijdragen aan het werven, het strafrechtssysteem en de gezondheidszorg wanneer ze niet worden beïnvloed door kenmerken zoals ras, geslacht. In de toekomst kan discriminatie worden geëlimineerd door het gebruik van deze soort geautomatiseerde systemen, waardoor bedrijfsbrede DE&I-initiatieven worden verbeterd. Ten slotte zullen AI-modellen met niet-vooringenomen resultaten de productiviteit verhogen en de tijd die nodig is om taken te voltooien verminderen. Echter, enkele bedrijven hebben hun AI-gegenereerde programma’s moeten stoppen vanwege de vooringenomen oplossingen van de technologie.

Om bijvoorbeeld te noemen, Amazon heeft het gebruik van een wervingsalgoritme stopgezet toen het ontdekte dat het algoritme een voorkeur had voor sollicitanten die woorden zoals “uitgevoerd” of “gevangen” vaker gebruikten, die vaker voorkwamen in de cv’s van mannen. Een ander voorbeeld van vooroordeel komt van Joy Buolamwini, een van de meest invloedrijke mensen in AI in 2023 volgens TIME, in samenwerking met Timnit Gebru bij MIT, die onthulde dat gezichtsanalysetechnologieën hogere foutpercentages vertoonden bij het beoordelen van minderheden, met name minderheidsvrouwen, mogelijk vanwege onvoldoende representatieve trainingsgegevens.

Onlangs zijn DNN’s alomtegenwoordig geworden in wetenschap, techniek en bedrijfsleven, en zelfs in populaire toepassingen, maar ze vertrouwen soms op twijfelachtige kenmerken die vooroordelen kunnen veroorzaken. Volgens een MIT-studie hebben wetenschappers in de afgelopen jaren diepe neurale netwerken ontwikkeld die in staat zijn om grote hoeveelheden invoer te analyseren, waaronder geluiden en afbeeldingen. Deze netwerken kunnen gedeelde kenmerken identificeren, waardoor ze doelwoorden of -objecten kunnen classificeren. Op dit moment staan deze modellen aan de vooravond van het veld als de primaire modellen voor het repliceren van biologische sensorische systemen.

NTT Research Senior Scientist en Associate bij de Harvard University Center for Brain Science Hidenori Tanaka en drie andere wetenschappers hebben voorgesteld om de beperkingen van naïeve fine-tuning, de status quo-methode voor het reduceren van een DNN’s fouten of “verlies”, te overwinnen met een nieuwe algoritme dat een model’s afhankelijkheid van vooroordeelgevoelige kenmerken vermindert.

Zij hebben het verlieslandschap van neurale netwerken bestudeerd door de lens van modusconnectiviteit, de observatie dat minimizers van neurale netwerken die via training op een dataset zijn verkregen, zijn verbonden via eenvoudige paden van laag verlies. Specifiek vroegen ze zich af: zijn minimizers die verschillende mechanismen voor hun voorspellingen gebruiken, verbonden via eenvoudige paden van laag verlies?

Zij ontdekten dat naïeve fine-tuning niet in staat is om de beslissingsmechanismen van een model fundamenteel te veranderen, omdat het vereist om naar een ander dal in het verlieslandschap te gaan. In plaats daarvan moet je het model over de barrières heen drukken die de “putten” of “dalen” van laag verlies scheiden. De auteurs noemen dit correctieve algoritme Connectivity-Based Fine-Tuning (CBFT).

Vóór deze ontwikkeling gebruikte een DNN, dat afbeeldingen zoals een vis (een illustratie die in deze studie wordt gebruikt) classificeert, zowel de objectvorm als de achtergrond als invoerparameters voor voorspelling. De verliesminimerende paden zouden daarom mechanistisch verschillende modi werken: één die afhankelijk is van het legitieme kenmerk van vorm, en de andere van het twijfelachtige kenmerk van achtergrondkleur. Als zodanig zouden deze modi geen lineaire connectiviteit hebben, of een eenvoudig pad van laag verlies.

Het onderzoeksteam begrijpt de mechanistische lens op modusconnectiviteit door twee sets van parameters te overwegen die het verlies minimaliseren met behulp van achtergronden en objectvormen als invoerattributen voor voorspelling, respectievelijk. En toen vroegen ze zich af: zijn zulke mechanistisch verschillende minimizers verbonden via paden van laag verlies in het landschap? Heeft de verschillendheid van deze mechanismen invloed op de eenvoud van hun connectiviteitspaden? Kunnen we deze connectiviteit exploiteren om te schakelen tussen minimizers die onze gewenste mechanismen gebruiken?

Met andere woorden, diepe neurale netwerken, afhankelijk van wat ze hebben opgepikt tijdens de training op een bepaalde dataset, kunnen heel anders gedragen wanneer je ze test op een andere dataset. Het voorstel van het team kwam neer op het concept van gedeelde overeenkomsten. Het bouwt voort op het eerdere idee van modusconnectiviteit, maar met een twist – het houdt rekening met hoe soortgelijke mechanismen werken. Hun onderzoek leidde tot de volgende openbaringen:

• minimizers die verschillende mechanismen hebben, kunnen op een vrij complexe, niet-lineaire manier zijn verbonden
• wanneer twee minimizers lineair zijn verbonden, is dit nauw verbonden met hoe soortgelijk hun modellen zijn in termen van mechanismen
• eenvoudige fine-tuning kan niet voldoende zijn om ongewenste kenmerken te elimineren die tijdens eerdere training zijn opgepikt
• als je regio’s vindt die lineair zijn losgekoppeld in het landschap, kun je efficiënte veranderingen aanbrengen in een model’s interne werking.

Terwijl dit onderzoek een belangrijke stap is in het benutten van het volledige potentieel van AI, kunnen de ethische zorgen rond AI nog steeds een opwaartse strijd zijn. Technologen en onderzoekers werken aan het bestrijden van andere ethische zwakheden in AI en andere grote taalmodellen, zoals privacy, autonomie en aansprakelijkheid.

AI kan worden gebruikt om grote hoeveelheden persoonlijke gegevens te verzamelen en te verwerken. Het ongeautoriseerde of onethische gebruik van deze gegevens kan individuen’ privacy compromitteren, waardoor zorgen ontstaan over surveillance, datalekken en identiteitsdiefstal. AI kan ook een bedreiging vormen wanneer het gaat om de aansprakelijkheid van hun autonome toepassingen, zoals zelfrijdende auto’s. Het vaststellen van juridische kaders en ethische normen voor aansprakelijkheid en verantwoordelijkheid zal essentieel zijn in de komende jaren.

Om te concluderen, de snelle groei van generatieve AI-technologie houdt beloften in voor verschillende industrieën, van financiën en gezondheidszorg tot transport. Ondanks deze veelbelovende ontwikkelingen, blijven de ethische zorgen rond AI aanzienlijk. Terwijl we deze transformatieve periode van AI navigeren, is het essentieel voor technologieën, onderzoekers en beleidsmakers om samen te werken om juridische kaders en ethische normen te creëren die de verantwoorde en nuttige toepassing van AI-technologie in de komende jaren zullen waarborgen. Wetenschappers bij NTT Research en de Universiteit van Michigan zijn een stap voor op het spel met hun voorstel voor een algoritme dat mogelijk vooroordelen in AI kan elimineren.