Startup Unbiased Sigter Mod At Øge Gennemsigtighed I Data Gennem Blockchain, Kæmpe Imod Dataforvrængning

Effekterne af dataforvrængning i kunstig intelligens er velkendte, og da AI og machine learning-algoritmer trænger dybere ind i samfundet, søger AI-virksomheder efter nye måder at sikre, at de algoritmer, de udvikler, ikke arver menneskelige forvrængninger. En af de nye spillere på AI- og machine learning-scenen, der sigter mod at reducere dataforvrængning, er startup-virksomheden Unbiased. Unbiased har lanceret en ny data-markedsplads på den aktive blockchain-platform Telos, i håb om at give kunderne decenterede, privatlivs-venlige værktøjer og applikationer til datavidenskab og AI.

Den globale AI-marked forventes at fortsætte sin hurtige vækst over de næste ti år, og nå omkring 266 milliarder dollars i 2027. Inden for de næste fire år forventes det, at verdensomspændende udgifter til AI-systemer og relaterede komponenter vil fordobles, og nå omkring 110 milliarder dollars i 2024 ifølge IDC. Den hurtige tilpasning af AI-algoritmer i flere og flere industrier har ført til voksende bekymringer over gennemsigtighed, privatliv, retfærdighed og repræsentativitet i AI-systemer.

Reduktion Af Forvrængning Gennem Gennemsigtighed

Ifølge en ny rapport udgivet af CapGemini Research Institute, med titlen “AI og den etiske gordiske knude: Hvordan organisationer kan opbygge etisk robuste AI-systemer og opnå tillid”, er den etiske brug af AI blevet en større bekymring for IT-ledere overalt, hvorved flertallet af IT-ledere nu udtrykker bekymring over mulig misbrug af AI-systemer. Omkring 9 ud af 10 IT-organisationer erklærede, at de var bekendt med mindst ét tilfælde, hvor etiske problemer var opstået som følge af anvendelsen af et AI-system. Omkring to tredjedele af IT-chefer sagde, at de var bekendt med potentielle diskriminerende forvrængninger i AI-systemer, og omkring halvdelen af alle IT-organisationer havde en etisk charter, der skulle give udviklingen af AI en mere etisk retning, modsat kun fem procent af IT-virksomheder i 2019.

Mens forskningen i, hvordan AI-algoritmer kan gøres mere retfærdige, fortsætter, fokuserer mange etikere og AI-specialister på de data, der bruges til at træne AI. Da AI-algoritmer bliver mere almindelige og standardiserede, skifter fokus til at erhverve de data, der er nødvendige for at træne modeller.

Der er mange måder at reducere dataforvrængning i AI-algoritmer på. Nogle teknikker indebærer at lave ændringer i modellen eller i træningsdataene, mens modellen trænes. Disse teknikker er “in-processing”-forvrængningskorrektionsteknikker. Dette inkluderer brugen af modstandstræningsteknikker, hvor et følsomt træk/variabel (såsom køn eller race) kontrolleres ved at straffe modellens evne til at lave forudsigelser, der indebærer trækket i question. Dette gøres samtidig med, at man forsøger at minimere modellens fejl. I modsætning hertil er fokus på at fjerne forvrængning fra datasettet en pre-processing-teknik. Træningsdata for machine learning-modeller er ofte manuelt mærket, og anvendelsen af blockchain kunne hjælpe virksomheder med at spore mærkningsprocessen for deres data for at sikre, at deres datasæt er repræsentative.

Unbiased søger at anvende blockchain til at skabe en kultur af gennemsigtighed inden for datasæt og data-markedspladser. De fleste værktøjer, der bruges til at generere datasæt for AI-systemer og machine learning-algoritmer, er centraliserede, og på grund af dette mangler de ofte gennemsigtighed. Unbiased sigter mod at udnytte blockchain-teknologiens natur til at optage handlinger, der finder sted på deres data-markedsplads, herunder udveksling af data, opgaver og projekter, samt bidrag fra arbejdere. Målet er, at Telos-blockchainens decenterede natur faciliterer gennemsigtighed, så brugerne kan få kritisk information omkring deres datavidenskab. Brugerne vil kunne validerer deres datasæt og bestemme, om notationer er udført i overensstemmelse med visse etiske principper, såsom retfærdighed og privatliv.

Ifølge Telos Blockchain’s Chief Architect kan intersectionen mellem AI/machine learning og blockchain føre til transformative nye metoder til at arbejde med data. Som Horn citeres af AIthority:

“Unbiased vil vise disse industrier, hvordan optagelse af data på en højpræstations-, ingen-gebyr-blockchain som Telos kan tilføje gennemsigtighed, uændringsfrihed, mikrobetaling og styre til deres produkter til gavn for alle interessenter.”

Ud over gennemsigtigheden af træningsdata har nogle videnskabsmænd og forskere krævet mere gennemsigtighed i algoritmer, modeller og kode. Et internationalt hold af videnskabsmænd opfordrede til, at videnskabelige tidsskrifter skulle holde computer science-forskere til højere gennemsigtighedsstandarder. Forskerne argumenterede for, at større gennemsigtighed omkring AI-modeller og kode ikke kun ville hjælpe med reproducerbarheden af studier, men også hjælpe med samarbejdet mellem forskningsgrupper. Mange videnskabelige studier kan ikke reproduceres, og dette er endnu større problem for AI-fokuserede studier, der udelader kritiske materialer. I fremtiden kunne blockchain muligvis anvendes til at forbedre sporing og vurdering af forskning på AI-området.