Startup Unbiased Beoogt Transparantie in Data te Vergroten met Blockchain, Bestrijdt Datavooroordeel

De gevolgen van datavooroordeel in kunstmatige intelligentie zijn goed gedocumenteerd, en omdat AI- en machine learning-algoritmen steeds dieper doordringen in elke hoek van de samenleving, zoeken AI-bedrijven naar nieuwe manieren om ervoor te zorgen dat de algoritmen die ze ontwikkelen geen menselijke vooroordelen erven. Een van de nieuwe spelers in de AI- en machine learning-ruimte, die zich richt op het verminderen van datavooroordeel, is de transparant genoemde startup Unbiased. Unbiased heeft een nieuwe data-marktplaats gelanceerd op het actieve blockchain-platform Telos, in de hoop om klanten te voorzien van decentrale, privacy-georiënteerde tools en applicaties voor datawetenschap en AI.

De wereldwijde AI-markt zal naar verwachting de komende tien jaar snel blijven groeien, met een verwachte omvang van ongeveer 266 miljard dollar in 2027. Binnen vier jaar zal de wereldwijde uitgaven aan AI-systemen en aanverwante componenten naar verwachting verdubbelen, tot ongeveer 110 miljard dollar in 2024, volgens IDC. De snelle adoptie van AI-algoritmen in steeds meer industrieën heeft geleid tot groeiende bezorgdheid over de transparantie, privacy, eerlijkheid en representativiteit van AI-systemen.

Het Verminderen van Vooroordeel door Transparantie

Volgens een recent rapport van het CapGemini Research Institute, getiteld “AI en het ethische dilemma: hoe organisaties ethisch robuuste AI-systemen kunnen bouwen en vertrouwen kunnen winnen”, is het ethisch gebruik van AI een groot probleem geworden voor IT-leiders, waarbij de meerderheid van de IT-leiders nu bezorgd is over het potentieel misbruik van AI-systemen. Ongeveer 9 van de 10 IT-organisaties meldden dat ze zich bewust waren van ten minste één incident waarbij ethische problemen werden gecreëerd door de toepassing van een AI-systeem. Ongeveer twee derde van de IT-executives zei dat ze zich bewust waren van potentieel discriminerende vooroordelen in AI-systemen, en ongeveer de helft van alle IT-organisaties heeft een ethische charter om de ontwikkeling van AI te geven, in tegenstelling tot slechts vijf procent van de IT-bedrijven in 2019.

Onderzoek naar hoe AI-algoritmen eerlijker kunnen worden gemaakt, is nog steeds gaande, maar veel ethici en AI-specialisten leggen de focus op de data die wordt gebruikt om AI te trainen. Naarmate AI-algoritmen meer algemeen en gestandaardiseerd worden, verschuift de focus naar het verkrijgen van de benodigde data om modellen te trainen.

Er zijn veel manieren om data-vooroordeel in AI-algoritmen te verminderen. Sommige technieken houden in dat de model of de trainingsdata worden aangepast terwijl het model traint. Deze technieken zijn “in-processing” vooroordeelcorrectietechnieken. Dit omvat het gebruik van tegenwerkende trainingsmethoden, waarbij een gevoelige functie/variabele (zoals geslacht of ras) wordt gecontroleerd door de mogelijkheid van het model om voorspellingen te doen met betrekking tot de functie in kwestie te bestraffen. Dit gebeurt tegelijkertijd met het proberen te minimaliseren van de fout van het model. In tegenstelling hiermee is het focussen op het verwijderen van vooroordeel uit de dataset een pre-processingtechniek. Trainingsdata voor machine learning-modellen worden vaak handmatig gelabeld, en de toepassing van blockchain kan bedrijven helpen om het labelproces van hun data te volgen om ervoor te zorgen dat hun datasets representatief zijn.

Unbiased kijkt naar blockchain om een cultuur van transparantie binnen datasets en data-marktplaatsen te creëren. De meeste tools die worden gebruikt om datasets voor AI-systemen en machine learning-algoritmen te genereren, zijn gecentraliseerd en ontbreken daardoor vaak aan transparantie. Unbiased wil de aard van blockchain gebruiken om acties die plaatsvinden op hun data-marktplaats te registreren, waaronder de uitwisseling van data, de toewijzing van taken en projecten, en bijdragen van werknemers. Het doel is dat de gedecentraliseerde aard van de Telos-blockchain transparantie mogelijk maakt, waardoor gebruikers kritische informatie over de aard van hun datawetenschap kunnen verkrijgen. Gebruikers zullen in staat zijn om hun datasets te valideren en te bepalen of annotaties zijn uitgevoerd met betrekking tot bepaalde ethische principes, zoals eerlijkheid en privacy.

Volgens de Chief Architect van Telos Blockchain kan de kruising van AI/machine learning met blockchain leiden tot transformatieve nieuwe methoden voor het werken met data. Zoals Horn door AIthority werd geciteerd:

“Unbiased zal deze industrieën laten zien hoe het opnemen van data op een hoogwaardige, no-fee blockchain zoals Telos transparantie, onveranderlijkheid, micropayments en governance kan toevoegen aan hun producten ten behoeve van alle stakeholders.”

Behalve de transparantie van trainingsdata, hebben sommige wetenschappers en onderzoekers gepleit voor meer transparantie in algoritmen, modellen en code. Een internationaal team van wetenschappers riep wetenschappelijke tijdschriften op om computerwetenschappers te houden aan hogere transparantienormen. De onderzoekers betoogden dat grotere transparantie over AI-modellen en code niet alleen zou helpen bij de reproduceerbaarheid van studies, maar ook bij de samenwerking tussen onderzoeksgroepen. Veel wetenschappelijke studies kunnen niet worden gereproduceerd, en dit is een nog groter probleem voor AI-gerichte studies die cruciale materialen weglaten. In de toekomst kan blockchain mogelijk worden gebruikt om het volgen en beoordelen van onderzoek op het gebied van AI te verbeteren.