Mitä on vastuullinen tekoäly? Periaatteet, haasteet ja hyödyt

Vastuullinen tekoäly (RAI) tarkoittaa tekoälyjärjestelmien suunnittelua ja käyttöönottoa, jotka ovat läpinäkyviä, puolueettomia, vastuullisia ja noudattavat eettisiä ohjeita. Tekoälyjärjestelmien kehittyessä yhä vahvemmiksi ja yleisemmiksi on tärkeää varmistaa, että ne kehitetään vastuullisesti ja turvallisuuden ja eettisten ohjeiden mukaisesti.

Terveys, liikenne, verkkohallinta ja valvonta ovat turvallisuuden kannalta kriittisiä tekoälysovelluksia, joissa järjestelmän virhe voi johtaa vakaviin seurauksiin. Suuret yritykset ovat tietoisia siitä, että vastuullinen tekoäly on välttämätöntä teknologian riskejä vähentämiseksi. Kuitenkin MIT Sloan/BCG-raportin mukaan, johon osallistui 1093 vastaajaa, 54% yrityksistä ei ollut vastuullisen tekoälyn asiantuntemusta ja osaamista.

Vaikka ajattelijat ja organisaatiot ovat kehittäneet periaatteita vastuulliselle tekoälylle, sen varmistaminen, että tekoälyjärjestelmät kehitetään vastuullisesti, edellyttää edelleen haasteita. Tarkastellaan tätä ajatusta tarkemmin:

5 periaatetta vastuulliselle tekoälylle

1. Reiluus

Teknologit tulisi suunnitella menettelyt, jotta tekoälyjärjestelmät kohtelevat kaikkia yksilöitä ja ryhmiä reilusti ilman puolueellisuutta. Reiluus on siis ensisijainen vaatimus korkean riskin päätöksentekojärjestelmissä.

Reiluus määritellään seuraavasti:

“Tutkitaan eri demograafisten ryhmien vaikutusta ja valitaan yksi useista matemaattisista määritelmistä ryhmän reiluudesta, joka tyydyttää riittävästi haluttuja oikeudellisia, kulttuurisia ja eettisiä vaatimuksia.”

2. Vastuullisuus

Vastuullisuus tarkoittaa, että yksilöt ja organisaatiot, jotka kehittävät ja käyttöönottoavat tekoälyjärjestelmiä, ovat vastuussa päätöksistään ja toimistaan. Tekoälyjärjestelmien käyttöönottoon osallistuvan tiimin tulisi varmistaa, että heidän tekoälyjärjestelmänsä on läpinäkyvä, selitettävissä, tarkastettavissa ja ei vahingoita yhteiskuntaa.

Vastuullisuus käsittää seitsemän osaa:

1. Konteksti (vastuullisuuden tarkoitus)
2. Alue (vastuullisuuden kohde)
3. Toimija (kuka on vastuussa?)
4. Forum (kenelle vastuullinen osapuoli on raportoitava)
5. Standardit (vastuullisuuden kriteerit)
6. Prosessi (vastuullisuuden menetelmä)
7. Seuraukset (vastuullisuuden seuraukset)

3. Läpinäkyvyys

Läpinäkyvyys tarkoittaa, että tekoälyjärjestelmien päätöksenteon syy on selvä ja ymmärrettävissä. Läpinäkyvät tekoälyjärjestelmät ovat selitettävissä.

Luotettavan tekoälyn arviointiluettelo (ALTAI) mukaan läpinäkyvyydellä on kolme avainelementtiä:

1. Jäljittäminen (data, esikäsittelyvaiheet ja malli on saatavilla)
2. Selitettävyys (päätöksenteon taustalla oleva syy on selvä)
3. Avoin viestintä (tekoälyjärjestelmän rajoituksista)

4. Yksityisyys

Yksityisyys on yksi vastuullisen tekoälyn periaatteista. Se tarkoittaa henkilökohtaisten tietojen suojelemista. Tämä periaate varmistaa, että henkilökohtaiset tiedot kerätään ja käsitellään suostumuksella ja pidetään pois pahantahtoisten henkilöiden ulottuvilta.

Esimerkiksi Clearview, joka tekee kasvontunnistusmalleja poliisille ja yliopistoille, keräsi 7,5 miljoonan punnan sakot kerättyään Yhdistyneen kuningaskunnan asukkaiden kuvia sosiaalisesta mediasta ilman suostumusta luodakseen 20 miljardin kuvan tietokannan.

5. Turvallisuus

Turvallisuus tarkoittaa, että tekoälyjärjestelmät ovat turvallisia eivätkä uhkaa yhteiskuntaa. Esimerkki tekoälyturvallisuuden uhkasta on vastakkainen hyökkäys. Nämä tahalliset hyökkäykset huijaavat koneoppimismalleja tekemään virheellisiä päätöksiä. Tekoälyjärjestelmien suojaaminen kyberhyökkäyksiltä on välttämätöntä vastuullisen tekoälyn kannalta.

4 merkittävintä haastetta ja riskiä vastuulliselle tekoälylle

1. Puolueellisuus

Ihmisten puolueellisuus, joka liittyy ikään, sukupuoleen, kansallisuuteen ja rotuun, voi vaikuttaa datakeruuseen ja johtaa puolueellisiin tekoälymalleihin. Yhdysvaltain kauppaministeriön tutkimus osoitti, että kasvontunnistustekoäly virheellisesti tunnistaa väärän henkilön erityisesti mustaihoisten keskuudessa. Tämän vuoksi tekoälyä käytettäessä kasvontunnistuksessa lainvalvonnassa voi johtaa virheellisiin pidätyksiin. Lisäksi reilujen tekoälymallien luominen on haasteellista, koska niissä on 21 eri parametri, jotka määrittelevät ne. Tämä tarkoittaa, että yhden reilun tekoälyparametrin tyydyttäminen edellyttää toisen uhraamista.

2. Selitettävyys

Selitettävyys on kriittinen haaste vastuullisen tekoälyn kehittämisessä. Se tarkoittaa ymmärtämistä siitä, miten koneoppimismalli on tullut tiettyyn johtopäätökseen.

Syvät neuroverkkomallit puuttuvat selitettävyydeltä, koska ne toimivat mustana laatikkona useiden piilotettujen hermosolmien kanssa, mikä tekee päätöksentekoprosessin ymmärtämisen haasteelliseksi. Tämä voi olla haaste korkean riskin päätöksentekijöille, kuten terveydenhuollossa ja rahoituksessa.

Lisäksi tekoälymallien selitettävyyden muodollistaminen on haasteellista, koska se on subjektiivista ja ala- ja sovelluskohtaisista.

3. Hallinto

Hallinto tarkoittaa sääntöjä, käytäntöjä ja menettelyjä, jotka valvovat tekoälyjärjestelmien kehittämistä ja käyttöönottoa. Viime aikoina on tapahtunut merkittävää edistystä tekoälyhallinnon keskustelussa, ja organisaatiot ovat esittäneet kehyksiä ja eettisiä ohjeita.

Luotettavan tekoälyn eettiset ohjeet Euroopan unionissa, Australian tekoälyeettinen kehys ja OECD:n tekoälyperiaatteet ovat esimerkkejä tekoälyhallintokehyksistä.

Kuitenkin tekoälyn nopea kehittyminen viime vuosina voi ylittää nämä tekoälyhallintokehykset. Tästä syystä on olemassa kehys, joka arvioi tekoälyjärjestelmien reiluutta, selitettävyyttä ja eettisyyttä.

4. Sääntely

Kun tekoälyjärjestelmät yleistyvät, on tarpeen sääntely, joka ottaa huomioon eettiset ja yhteiskunnalliset arvot. Sääntelyn kehittäminen, joka ei tukahduta tekoälyinnovaatiota, on kriittinen haaste vastuullisessa tekoälyssä.

Vaikka on olemassa yleistä tietosuoja-asetusta (GDPR), Kalifornian kuluttajansuojalakia (CCPA) ja henkilötietojen suojelulakia (PIPL), tekoälytutkijat ovat havainneet, että 97% Euroopan unionin verkkosivuista ei noudata GDPR:n lakirunkoa.

Lisäksi lainsäätäjillä on merkittävä haaste päästäkseen yksimielisyyteen tekoälyn määritelmästä, joka kattaa sekä perinteiset tekoälyjärjestelmät että uusimmat tekoälysovellukset.

3 merkittävintä hyötyä vastuullisesta tekoälystä

1. Vähennetty puolueellisuus

Vastuullinen tekoäly vähentää puolueellisuutta päätöksentekoprosesseissa, luoden luottamusta tekoälyjärjestelmiin. Puolueellisuuden vähentäminen tekoälyjärjestelmissä voi tarjota reilun ja tasapuolisen terveydenhuoltojärjestelmän ja vähentää puolueellisuutta tekoälypohjaisissa rahoituspalveluissa.

2. Parannettu läpinäkyvyys

Vastuullinen tekoäly tekee läpinäkyviä tekoälysovelluksia, jotka luovat luottamusta tekoälyjärjestelmiin. Läpinäkyvät tekoälyjärjestelmät vähentävät virheen ja väärinkäytön riskiä. Parannettu läpinäkyvyys tekee tekoälyjärjestelmien tarkastamisesta helpompaa, voittaa sidosryhmien luottamuksen ja voi johtaa vastuullisiin tekoälyjärjestelmiin.

3. Turvallisuus

Turvalliset tekoälysovellukset varmistavat tietosuojan, tuottavat luotettavan ja vaarattoman tuloksen ja ovat suojattuina kyberhyökkäyksiltä.

Teknologiajätit, kuten Microsoft (MSFT ) ja Google (GOOGL ), jotka ovat tekoälyjärjestelmien kehittämisen eturintamassa, ovat kehittäneet vastuullisen tekoälyn periaatteita. Vastuullinen tekoäly varmistaa, että tekoälyinnovaatiot eivät ole haitallisia yksilöille ja yhteiskunnalle.

Ajattelijat, tutkijat, organisaatiot ja oikeudelliset viranomaiset tulisi jatkuvasti tarkastella ja päivittää vastuullista tekoälykirjallisuutta, jotta voidaan varmistaa turvallinen tulevaisuus tekoälyinnovaatioille.

Lisää tekoälyaiheista sisältöä löytyy unite.ai:sta.