5 Perustavanlaista Pilaria Vastuullisen Tekoälyn Varmentamiseksi

Näemme valtavan kasvun tekoäly-/koneoppimisjärjestelmissä prosessoida valtameriä dataa, jota uusi digitaalitalous tuottaa. Kuitenkin tämän kasvun myötä on vakavasti harkittava tekoälyn eettisiä ja oikeudellisia vaikutuksia.

Kun luotamme yhä monimutkaisemmille ja tärkeämmille tehtäville tekoälyjärjestelmiä, kuten esimerkiksi automaattiseen luottopäätöksiin, meidän on oltava täysin varmoja, että nämä järjestelmät ovat vastuullisia ja luotettavia. Tekoälyssä olevan harhan vähentäminen on muodostunut valtavaksi keskittyämiskohdaksi monille tutkijoille ja sillä on valtavat eettiset vaikutukset, kuten myös se, kuinka paljon autonomiaa annamme näille järjestelmille.

Vastuullisen tekoälyn käsite on tärkeä viitekehys, joka voi auttaa luomaan luottamusta tekoälykäyttöösi. On olemassa viisi peruspylvästä Vastuullista tekoälyä. Tämä artikkeli tarkastelee näitä, jotta voit rakentaa parempia järjestelmiä.

1. Toistettavuus

On vanha sanonta ohjelmistokehityksen maailmassa, joka kuuluu: “hei, se toimii minun tietokoneellani” Tekoälyssä ja koneoppimisessa lause voisi olla: “hei, se toimii minun tietokannassani.” Tämä tarkoittaa, että koneoppimismallit voivat usein olla musta laatikko. Monet koulutusaineistot voivat sisältää sisäänrakennettuja harhoja, kuten otantaharhaa tai vahvistusharhaa, jotka vähentävät lopputuotteen tarkinää.

Toiminnan tehostamiseksi tekoäly-/koneoppimisjärjestelmissä ja siten tehdäkseen niistä tarkinampia ja luotettavampia, ensimmäinen askel on standardisoida MLOps-putki. Jopa älykkäimmillä data-tieteilijöillä on omia suosikkiteknologioitaan ja kirjastojaan, mikä tarkoittaa, että piirteiden insinöörit ja tulokset eivät ole yhdenmukaisia henkilöltä toiselle. Käyttämällä työkaluja, kuten MLflow, voidaan standardisoida MLOps-putki ja vähentää näitä eroja.

Toinen tapa tehostaa tekoäly-/koneoppimisjärjestelmissä on käyttää niin kutsuttuja “kultadatasetteja”. Nämä ovat edustavia aineistoja, jotka toimivat periaatteessa testeinä ja validoina uusille malleille ennen niiden julkaisua tuotantoon.

2. Avoinisuus

Kuten aiemmin mainittiin, monet koneoppimismallit, erityisesti neurverkot, ovat mustia laatikoita. Tekemällä niistä vastuullisempia, meidän on tehtävä niistä tulkittavampia. Yksinkertaisissa järjestelmissä, kuten päätöspuissa, on helppo ymmärtää, miten ja miksi järjestelmä teki tietyän päätöksen, mutta kun tekoälyjärjestelmän tarkkuus ja monimutkaisuus kasvaa, sen tulkittavuus usein laskee.

On uusi tutkimusalue, jota kutsutaan “selittävyydeksi”, joka yrittää tuoda avoimuutta jopa monimutkaisiin tekoälyjärjestelmiin, kuten neurverkkoihin ja syväoppimiseen. Nämä käyttävät välillisiä malleja, jotka kopioivat neurverkon suorituskyvyn, mutta myös yrittävät antaa päteviä selityksiä siitä, mitkä piirteet ovat tärkeitä.

Tämä johtaa kaikenkaikkiaan reiluuteen; haluat tietää, miksi tietyä päätöstä tehtiin ja varmistaa, että tämä päätös on reilu. Haluat myös varmistaa, että sopimattomia piirteitä ei oteta huomioon, jotta harha ei pääse malliisi.

3. Vastuullisuus

Ehkä tärkein asia Vastuullisessa tekoälyssä on vastuullisuus. On paljon keskustelua tästä aiheesta, jopa hallituksen sektorilla, koska se liittyy siihen, mitkä politiikat ohjaavat tekoälytuloksia. Tämä politiikkaohjattu lähestymistapa määrittää, missä vaiheessa ihmiset ovat sisäpiirissä.

Vastuullisuus edellyttää vahvoja valvontaa ja mittareita, jotka ohjaavat päättäjiä ja valvovat tekoäly-/koneoppimisjärjestelmiä. Vastuullisuus yhdistää tosiasiallisesti toistettavuuden ja avoimuuden, mutta se tarvitsee tehokasta valvontaa tekoälyetiikka-komiteoiden muodossa. Nämä komiteat voivat käsitellä päätöksiä, päättää, mitä on tärkeää mitata, ja suorittaa reiluuden tarkastuksia.

4. Turvallisuus

Tekoälyturvallisuus keskittyy tiedon salassapitoon ja eheys. Kun järjestelmät prosessoida tietoa, haluat, että ne ovat turvallisessa ympäristössä. Haluat, että tiedot ovat sekä salattuina, kun ne ovat levossa tietokannassasi, ja myös kun ne haetaan putken kautta, mutta haavoittuvuuksia on edelleen, kun ne syötetään koneoppimismalliin selkotekstinä. Teknologiat, kuten homomorfiset salaukset, korjaavat tämän ongelman sallimalla koneoppimisen koulutuksen tapahtua salatussa ympäristössä.

Toinen näkökulma on itse mallin turvallisuus. Esimerkiksi mallin käänteiset hyökkäykset sallivat hakkereiden oppia koulutusdataa, jota käytettiin mallin rakentamiseen. On myös mallin myrkyttämishyökkäykset, jotka lisäävät pahaa dataa malliin sen koulutuksen aikana ja vahingoittavat sen suorituskykyä täysin. Mallin testaaminen vastustuskyvyyden hyökkäyksiä, kuten näitä, pitää sen turvallisen ja suojatun.

5. Yksityisyys

Google ja OpenMined ovat kaksi organisaatiota, jotka ovat viime aikoina priorisoineet tekoäly-yksityisyyttä, ja OpenMined isännöi äskettäin konferenssin tästä aiheesta. Uusien sääntöjen, kuten GDPR:n ja CCPA:n, ja mahdollisesti tulevien sääntöjen myötä yksityisyys tulee olemaan keskeisessä asemassa siinä, miten koulutamme koneoppimismalleja.

Yksi tapa varmistaa, että käsittelet asiakkaiden tietoja yksityisyyden kannalta, on käyttää hajautettua oppimista. Tämä keskitetty tapa koneoppimiseen kouluttaa eri malleja paikallisesti ja sitten aggregoi kunkin mallin keskitetyssä solmussa, pitäen tiedot turvassa, turvallisina ja yksityisinä. Toinen tapa on esittää tilastollinen kohina, jotta yksittäisten asiakkaiden arvoja ei vuodeta. Tämä pitää sinut työskentelemästä aggregaatissa, jotta yksittäisen henkilön tiedot ovat koskemattomia ja eivät ole käytettävissä algoritmille.

Pidä tekoäly vastuullisena

 Lopulta, tekoälyn vastuullisuus on jokaisen organisaation, joka suunnittelee tekoäly-/koneoppimisjärjestelmiä, vastuulla. Tavoittelemalla tietoisesti teknologioita kussakin näistä viidestä Vastuullisen tekoälyn ulottuvuudesta, voit hyötyä tekoälyn voimasta, ja tehdä niin luotettavalla ja suoraviivaisella tavalla, joka takaa organisaatiosi, asiakkaiden ja sääntelijöiden luottamuksen.