Startup Unbiased Aims To Increase Transparency In Data Through Blockchain, Fight Data Bias

Datavirheen vaikutukset tekoälyssä ovat hyvin dokumentoitu, ja koska tekoäly ja koneoppimisalgoritmit tunkeutuvat yhä syvemmälle yhteiskunnan jokaiseen kulmaan, tekoälyyritykset etsivät uusia keinoja varmistamaan, etteivät heidän kehittämänsä algoritmit periä ihmisten harhaa. Yksi uusista toimijoista tekoäly- ja koneoppimistilassa, joka pyrkii vähentämään datavirhettä, on avoimesti nimetty startup Unbiased. Unbiased on lanseerannut uuden data-markkinapaikan aktiivisella blockchain-alustalla Telos, toivoen tarjoavansa asiakkailleen hajautettuja, yksityisyyden ensisijaisia työkaluja ja sovelluksia data-tieteelle ja tekoälylle.

Globaali tekoälymarkkinan odotetaan jatkavan nopeaa kasvuaan seuraavan vuosikymmenen aikana, saavuttaen noin 266 miljardia dollaria vuoteen 2027 mennessä. Seuraavan neljän vuoden aikana maailmanlaajuinen tekoälyjärjestelmiin ja niihin liittyviin komponentteihin kohdistuva kulutus odotetaan kaksinkertaistuvan, saavuttaen noin 110 miljardia dollaria vuoteen 2024 mennessä IDC:n mukaan. Tekoälyalgoritmien nopea omaksuminen yhä useammassa alalla on johtanut kasvaviin huolenaiheisiin tekoälyjärjestelmien läpinäkyvyydestä, yksityisyydestä, reiluudesta ja edustavuudesta.

Harhan vähentäminen läpinäkyvyyden kautta

CapGemini Research Instituten vuonna julkaistun raportin mukaan, jonka otsikko on “AI ja eettinen pulma: Miten organisaatiot voivat luoda eettisesti vankkaita tekoälyjärjestelmiä ja saavuttaa luottamuksen”, tekoälyn eettinen käyttö on muodostunut tärkeäksi huolenaiheeksi IT-johtajille, ja useimmat IT-johtajat ovat nyt ilmaisseet huolensa tekoälyjärjestelmien mahdollisesta väärinkäytöstä. Noin 9 kymmenestä IT-organisaatiosta ilmoitti tietävänsä vähintään yhden tapauksen, jossa tekoälyjärjestelmän soveltaminen aiheutti eettisiä ongelmia. Noin kaksi kolmasosaa IT-johtajista sanoi tietävänsä tekoälyjärjestelmien mahdollisista syrjivistä harhoista, ja noin puolet kaikista IT-organisaatioista on eettinen perussääntö, jonka tarkoituksena on antaa tekoälyn kehittämiselle vastuu, verrattuna vain viiteen prosenttiin IT-yrityksistä vuonna 2019.

Vaikka tutkimus siitä, miten tekoälyalgoritmeja voidaan tehdä reilummiksi, jatkuu, monet eetikot ja tekoälyasiantuntijat keskittyvät dataan, jota käytetään tekoälyn kouluttamiseen. Koska tekoälyalgoritmit tulevat yleisemmiksi ja standardoituiksi, fokus siirtyy datan hankkimiseen, jota tarvitaan mallien kouluttamiseen.

On olemassa useita keinoja vähentää datavirhettä tekoälyalgoritmeissa. Jotkut tekniikat vaativat muutoksia malliin tai koulutusdataan mallin koulutuksen aikana. Nämä tekniikat ovat “prosessin aikaisia” virheenkorjausmenetelmiä. Tähän kuuluu vastakkaisen koulutuksen tekniikoiden käyttö, jossa herkkä ominaisuus/muuttuja (kuten sukupuoli tai rotu) ohjataan rangaistamalla mallin kykyä tehdä ennusteita, jotka liittyvät kyseiseen ominaisuuteen, samalla yritetään minimoida mallin virhettä. Vastaavasti datan esikäsittelymenetelmänä on datan virheen poistaminen ennen mallin koulutusta. Koneoppimismallien koulutusdata on usein manuaalisesti merkitty, ja blockchainin soveltaminen voi auttaa yrityksiä seuraamaan datansa merkitsemisprosessia varmistaakseen, että heidän tietonsa ovat edustavia.

Unbiased pyrkii käyttämään blockchainia datamarkkinapaikkojen ja datan läpinäkyvyyden edistämiseen. Useimmat tekoäly- ja koneoppimisjärjestelmiä varten luodut datan muodostamistyökalut ovat keskitettyjä, ja niillä on usein puutteita läpinäkyvyydessä. Unbiased pyrkii hyödyntämään blockchainin luonteen tallentamaan toimia, jotka tapahtuvat heidän datamarkkinapaikallaan, mukaan lukien datan vaihto, tehtävien ja projektien määrittely ja työntekijöiden panokset. Tavoitteena on, että Telos-blockchainin hajautettu luonne mahdollistaa läpinäkyvyyden, jotta käyttäjät voivat saada kriittistä tietoa datatieteestään. Käyttäjät voivat vahvistaa datansa ja määrittää, onko merkintöjä tehty tiettyjen eettisten periaatteiden, kuten reiluuden ja yksityisyyden, mukaisesti.

Telos-blockchainin pääarkkitehdin mukaan tekoälyn ja koneoppimisen sekä blockchainin leikkauskohta voi johtaa muunnokseen uusissa työskentelytavoissa dataa käsiteltäessä. Hornin mukaan AIthority:

“Unbiased näyttää näille aloille, miten datan tallentaminen korkean suorituskyvyn, maksuttomaan blockchainiin, kuten Telos, voi lisätä läpinäkyvyyttä, muuttumattomuutta, mikromaksuja ja hallintoa heidän tuotteisiinsa kaikkien sidosryhmien hyödyksi.”

Datatransparensin lisäksi jotkut tutkijat ja tutkijat ovat vaatineet enemmän läpinäkyvyyttä algoritmeissa, malleissa ja koodissa. Kansainvälinen tutkijaryhmä vaati tieteellisiltä lehdistä korkeampia läpinäkyvyyden standardeja tietokoneen tieteen tutkijoilta. Tutkijat väittivät, että suurempi läpinäkyvyys tekoälymalleista ja koodista ei vain auttaisi tutkimuksen toistettavuudessa, vaan myös edistäisi tutkimusryhmien välistä yhteistyötä. Monet tieteelliset tutkimukset eivät voida toistaa, ja tämä on vielä suurempi ongelma tekoälyyn keskittyvissä tutkimuksissa, joissa kriittisiä materiaaleja jätetään pois. Tulevaisuudessa blockchainia voidaan hyödyntää myös parantamaan tutkimuksen seuraamista ja arviointia tekoälyalueella.