Startup Unbiased sikter på å øke transparensen i data gjennom blockchain, bekjempe datatendens

Effektene av datatendens i kunstig intelligens er godt dokumentert, og siden AI og maskinlæringsalgoritmer trenger inn i hver enkelt hjørne av samfunnet, søker AI-selskaper etter nye måter å sikre at algoritmene de utvikler ikke arver menneskelige tendenser. En av de nye aktørene innen AI og maskinlæringsområdet, som sikter på å redusere datatendens, er startupen Unbiased. Unbiased har lansert en ny datamarkedsplass på den aktive blockchain-plattformen Telos, i håp om å gi kundene dezentraliserte, privatlivs-vennlige verktøy og applikasjoner for datavitenskap og AI.

Den globale AI-markedet forventes å fortsette sin raske vekst over de neste ti årene, og nå rundt 266 milliarder dollar i 2027. Innen de neste fire årene forventes verdensomspendingen på AI-systemer og tilknyttede komponenter å dobles, og nå rundt 110 milliarder dollar i 2024 ifølge IDC. Den raske innføringen av AI-algoritmer i flere og flere industrier har ført til økende bekymringer over transparensen, privatlivet, rettferdigheten og representativiteten til AI-systemene.

Redusere tendens gjennom transparens

Ifølge en nylig rapport fra CapGemini Research Institute, med tittelen “AI og den etiske knuten: Hvordan organisasjoner kan bygge etisk robuste AI-systemer og oppnå tillit”, har den etiske bruken av AI blitt en stor bekymring for IT-ledere over hele verden, og majoriteten av IT-ledere uttrykker nå bekymring over mulig misbruk av AI-systemer. Rundt 9 av 10 IT-organisasjoner har vært klar over minst ett tilfelle der etiske problemer ble skapt av en AI-system. Rundt to tredeler av IT-ledere sa de var klar over potensielle diskriminerende tendenser i AI-systemer, og rundt halvparten av alle IT-organisasjoner har en etisk charter som sikter på å gi utviklingen av AI, i motsetning til bare 5 prosent av IT-selskaper i 2019.

Mens forskningen på hvordan AI-algoritmer kan gjøres rettferdigere fortsetter, legger mange etikere og AI-eksperter fokuset på dataene som brukes til å trene AI. Ettersom AI-algoritmer blir mer ubikk og standardiserte, skifter fokuset til å skaffe dataene som trengs for å trene modellene.

Det finnes mange måter å redusere datatendens i AI-algoritmer på. Noen tekniker innebærer å gjøre justeringer i modellen eller i treningsdataene mens modellen trener. Disse teknikkene er “in-processing” tendens-korreksjoner. Dette inkluderer bruk av motstridende treningsmetoder, som er der en følsom egenskap/variabel (som kjønn eller rase) kontrolleres ved å straffe modellens evne til å gjøre prediksjoner som involverer egenskapen i question. Dette gjøres samtidig som man prøver å minimere feilen i modellen. I motsetning til å fokusere på å fjerne tendens fra datasettet, er en pre-processing-teknikk. Treningsdata for maskinlæringsmodeller er ofte manuelt merket, og bruken av blockchain kan hjelpe selskaper med å spore merkingen av deres data for å sikre at datasettene er representative.

Unbiased ser på blockchain for å skape en kultur av transparens innen datasett og datamarkedsplasser. De fleste verktøyene som brukes til å generere datasett for AI-systemer og maskinlæringsalgoritmer er sentraliserte, og på grunn av dette mangler de ofte transparens. Unbiased sikter på å utnytte blockchainens natur til å registrere handlinger som skjer over deres datamarkedsplass, som inkluderer utveksling av data, oppgaver og prosjekter, og bidrag fra arbeidere. Målet er at Telos-blockchainens dezentraliserte natur skal fremme transparens, og tillate brukerne å få kritisk informasjon om datavitenskapen. Brukerne vil kunne validerer datasettene og bestemme om annoteringer er utført i henhold til bestemte etiske prinsipper, som rettferdighet og privatliv.

Ifølge sjefarkitekten for Telos Blockchain, kan krysningspunktet mellom AI/maskinlæring og blockchain føre til transformative nye metoder for å arbeide med data. Som Horn ble sitert av AIthority:

“Unbiased vil vise disse industrene hvordan registrering av data på en høy-ytelses, avgiftsfri blockchain som Telos kan legge til transparens, uforanderlighet, mikrobetalinger og styring i deres produkter for alle interessenter.”

Utenom transparensen i treningsdata, har noen forskere og forskere bedt om mer transparens i algoritmer, modeller og kode. Et internasjonalt team av forskere ba om at vitenskapelige tidsskrifter skulle holde datavitenskapsforskere til høyere transparensstandarder. Forskerne argumenterte for at større transparens om AI-modeller og kode ikke bare ville hjelpe med reproduserbarheten av studier, men også bidra til samarbeid mellom forskningsgrupper. Mange vitenskapelige studier kan ikke reproduseres, og dette er et enda større problem for AI-fokuserte studier som lar ut kritiske materialer. I fremtiden kunne blockchain også bli brukt til å forbedre sporingen og vurderingen av forskning i AI-området.