Ajatusjohtajat

Neuroverkoista tuottamusvastuuseen: kuka vastaa tekoälyn epäonnistumisesta?

Kanon Clifford
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
A conceptual legal illustration showing a lawyer in a boardroom, a scale of justice with a glowing AI brain and a human hand, and a digital
Keskeiset kohdatTekoälyn läpinäkymättömyys luo vastuuvajeen vaikeuttamalla huolimattomuuden keskeisiä…
Näytä lisää
  • Tekoälyn läpinäkymättömyys luo vastuuvajeen vaikeuttamalla huolimattomuuden keskeisiä elementtejä kuten velvollisuutta ja syy-yhteyttä.
  • Tuomioistuimet saattavat soveltaa olemassa olevia tuotevastuun oppeja tekoälyyn, mutta vaativat kehittynyttä teknistä näyttöaineistoa.
  • Tiukat vastuujärjestelmät voisivat kohdistaa riskin oikeudenmukaisesti, kun tekoälyn aiheuttama vahinko on ennakoitavissa mutta syy-yhteys on epäselvä.

Tässä artikkelissa käsitellään tekoälyn aiheuttamiin vahinkoihin liittyviä oikeudellisia kysymyksiä ja sitä, kenelle vastuu voi kuulua, jos neuroverkko ei toimi oikein todellisessa maailmassa.

Tekoäly on siirtynyt tutkimuslaboratorioista oikeussaleihin, klinikoille, autoihin ja pörsseihin. Neuroverkot diagnosoivat sairauksia, hyväksyvät lainoja ja hoitavat yhä useammin tehtäviä, joiden on pitkään katsottu kuuluvan ihmisille. Kun tällaiset järjestelmät epäonnistuvat todellisessa maailmassa, seuraukset voivat kuitenkin olla vakavia ja joskus kuolemaan johtavia.

Toimin henkilövahinkoja koskevissa asioissa kantajien asianajajana Ontariossa Kanadassa ja valmistelen parhaillaan Doctor of Business Administration -tutkintoa tutkien liiketoiminnan, oikeuden ja teknologian yhtymäkohtia. Minulta kysytään yhä useammin yksinkertainen kysymys: Kuka on vastuussa, jos tekoäly aiheuttaa vahinkoa?

Vastaus on todellisuudessa monimutkaisempi. Tekoäly haastaa tuottamusta, syy-yhteyttä ja ennakoitavuutta koskevat oikeudelliset opit ja herättää perustavanlaatuisia kysymyksiä siitä, miten oikeuden tulisi suhtautua koneiden päätöksiin.

Tekoälyn kasvava rooli suuren riskin päätöksenteossa

Tekoäly ei enää rajoitu vähän osaamista vaativien tehtävien automatisointiin tai koneoppimisalustoihin. Se tekee nyt päätöksiä terveydenhuollossa, rahoituksessa, työelämässä, liikenteessä, poliisitoiminnassa ja oikeudellisessa analytiikassa.

Nykyiset tekoälymallit koostuvat yleensä syvistä neuroverkoista. Ne pystyvät havaitsemaan monimutkaisia säännönmukaisuuksia suurissa tietoaineistoissa, mutta niiden toiminta jää pitkälti läpinäkymättömäksi myös kehittäjille. Tutkijat ovat havainneet, että tekoälyjärjestelmät tuovat ennakoimattomuutta ja itsenäisyyttä oikeuteen, jota ovat aiemmin ohjanneet tiukasti ennakoitavuus ja tarkoitus. Tämä synnyttää ristiriidan innovoinnin ja vastuuvelvollisuuden välille.

Oikeusjärjestelmät kohdistavat vastuun aiheutuneista vahingoista ihmisiin, mutta tekoäly jakaa sitä tietoaineistojen laatijoiden ja järjestelmien kehittäjien, käyttöönottajien sekä loppukäyttäjien kesken. Vastuu hajaantuu.

Vastuuaukko: kun vahinkoa on vaikea kohdistaa tiettyyn toimijaan

Oikeustieteilijät puhuvat yhä useammin tekoälyn hallintaan syntyvästä ”vastuuaukosta”. Perinteinen vahingonkorvausoikeus edellyttää seuraavien seikkojen osoittamista:

  1. Huolellisuusvelvollisuus
  2. Huolellisuusvelvollisuuden rikkominen
  3. Syy-yhteys
  4. Vahinko

Tekoäly mutkistaa jokaista osatekijää. Kehittäjät eivät esimerkiksi välttämättä tiedä, miten malli käyttäytyy käyttöönoton jälkeen, ja organisaatiot saattavat käyttää kolmansien osapuolten koneoppimisjärjestelmiä. Loppukäyttäjälle tulosten muodostumismekanismi jää läpinäkymättömäksi.

Eräässä tieteellisessä tutkimuksessa todettiin, että tuottamuksen osoittaminen on vaikeampaa, jos tekoälyjärjestelmät toimivat osittain itsenäisesti tai mukautuvat itsenäisesti esimerkiksi koneoppimisen avulla. Tämä vastuun pirstaloituminen haastaa ihmisen toimintaan perustuvat oikeudelliset opit.

Henkilövahinkoja koskevissa oikeudenkäynneissä tuomioistuimet arvioivat perinteisesti, toimiko vastaaja olosuhteisiin nähden asianmukaisesti. Miten tätä pitäisi arvioida, kun päätöksenteko on osittain siirretty todennäköisyysmalleille?

Neuroverkot ja selitettävyyden ongelma

Syväoppimisjärjestelmät toimivat usein ”mustina laatikkoina”. Niiden sisäisiä päätöksentekoprosesseja eivät edes asiantuntijat pysty helposti tulkitsemaan. Selitettävyyden puutteella on vakavia oikeudellisia seurauksia.

Jos lääketieteellinen tekoälyjärjestelmä tekisi virheellisen syöpädiagnoosin, mistä tuottamus johtuisi? Merkitystä voisi olla seuraavilla seikoilla:

  • Miten malli koulutettiin
  • Oliko koulutusdatassa vinoumia
  • Olivatko validointimenettelyt riittäviä
  • Luottivatko kliinikot liikaa automaattisesti tuotettuun tulokseen

Oikeustieteellisessä kirjallisuudessa suositellaan erottamaan toisistaan syy-yhteyteen perustuva vastuu, rooliin perustuva vastuu ja oikeudellinen korvausvastuu , kun määritetään vastuuta tekoälyn aiheuttamista vahingoista.

Käytännössä vastuu voisi kuitenkin ulottua kokonaiseen toimijaketjuun:

  • Tietojen toimittajat
  • Ohjelmistokehittäjät
  • Mallien kouluttajat
  • Järjestelmien käyttöönottajat
  • Tekoälyn tuloksia hyödyntävät organisaatiot
  • Tekoälyn suosituksiin tukeutuvat ammattilaiset

Tekoäly ei poista vastuuta, vaan jakaa sen uudelleen.

Oppeja itseohjautuvista ajoneuvoista: esimerkki tekoälyyn liittyvästä vastuusta

Itseohjautuvia ajoneuvoja koskevat oikeudenkäynnit antavat alustavaa osviittaa siitä, miten tuomioistuimet voivat käsitellä tekoälyyn liittyviä vahinkoja. Tuomioistuimet ovat soveltaneet perinteisiä tuottamuksen ja tuotevastuun periaatteita uusiin, vahinkoa aiheuttaviin teknologioihin. Viimeaikaisissa tapauksissa valamiehistöt ovat alkaneet jakaa vastuuta ihmiskuljettajien ja automaattisia ajojärjestelmiä kehittäneiden teknologiayritysten kesken.

Oikeudelliset kommentaattorit ovat esittäneet, että vakiintuneet tuotevastuuopit, kuten suunnitteluvirhe, valmistusvirhe ja varoitusten laiminlyönti, soveltuvat myös tekoälyä hyödyntäviin järjestelmiin.

Itseohjautuvat ajoneuvot paljastavat kuitenkin nykyisten oikeudellisten kehysten rajat. Kenen pitäisi vastata: ajoneuvon valmistajan, ohjelmistokehittäjän, ajoneuvoa käyttävän ihmisen vai algoritmin koulutukseen käytetyn datan?

Jotkut tutkijat ovat esittäneet, että tuotevastuuperiaatteiden soveltaminen analogisesti voi auttaa rajaamaan vastuun tuotantoketjun alku- ja loppupään toimijoiden välillä.

Kantajan näkökulmasta tapaukset osoittavat, että tuomioistuimet voivat edelleen soveltaa perinteisiä periaatteita uusiin teknologioihin, mutta se edellyttää erittäin korkeatasoista asiantuntijanäyttöä ja teknistä tietämystä.

Ankara vastuu ja tuottamusvastuu: kilpailevat oikeudelliset teoriat

Keskeinen kiistakysymys on, voidaanko perinteisiä tuottamusvastuun kehyksiä soveltaa tekoälyjärjestelmiin. Jotkut tutkijat kannattavat ankaran vastuun järjestelmiä ja katsovat, ettei vahingonkärsijän pitäisi joutua osoittamaan tuottamusta erittäin monimutkaisessa teknologisessa ympäristössä.

Ankara vastuu voi olla erityisen hyödyllinen silloin, kun vahinko on ennakoitavissa mutta väistämätön, tekoälyjärjestelmä on laajamittaisessa käytössä ja riskit jakautuvat yhteiskunnassa laajasti. Sama koskee tilanteita, joissa teknistä syy-yhteyttä on vaikea osoittaa.

On myös esitetty, että tuottamusvastuuta koskeva oikeus voi sopeutua teknologian muutoksiin. Vertailevassa oikeustutkimuksessa on kannatettu olemassa olevien oppien hyödyntämistä, koska ne vakauttavat oikeusjärjestelmää ja mukautuvat asteittain uudenlaisiin vahinkoihin.

Ankara vastuu ja tuottamusvastuu kuvastavat oikeuspoliittisia valintoja, jotka koskevat innovointia, oikeudenmukaisuutta sekä riskien ja kustannusten jakamista.

Pitäisikö innovaattorien vastata teknologisesta riskistä? Vai pitäisikö edistyksen kustannukset jakaa laajemmin yhteiskunnassa?

Liiketoiminnan näkökulma: riskien jakaminen ja vakuutukset

Yrityksille tekoälyyn liittyvä vastuu on oikeudellisen kysymyksen lisäksi riskienhallintaa. Tekoälyjärjestelmiä käyttöön ottavat organisaatiot ovat alkaneet kiinnittää huomiota riskien sopimusperusteiseen jakamiseen, ammatilliseen vastuuvakuutukseen, kybervakuutusturvaan, korvausvastuuta koskeviin sitoumuksiin ja sääntelyn noudattamisen kehyksiin.

Vakuutusmarkkinoilla voi olla merkittävä rooli tekoälyyn liittyvän vastuuvelvollisuuden luomisessa. Joidenkin tutkimusten mukaan tietyt tekoälyn aiheuttamat vahingot voitaisiin lopulta korvata parhaiten yhdistelmäjärjestelmillä, joissa vakuutukset ja vahingonkorvausoikeus täydentävät toisiaan.

Tekoälyä operatiivisessa päätöksenteossa hyödyntävien yritysten pitäisi huomioida oikeudenkäyntiriski digitaalisessa muutoksessaan. Sen laiminlyönti voi altistaa organisaatiot mainehaitoille, viranomaisseuraamuksille ja siviilioikeudelliselle korvausvastuulle.

Eettinen vastuu ja oikeudellinen vastuu

Oikeudellinen vastuu ei monissa tapauksissa vastaa eettistä vastuuta. Tekoälyn hallintaa koskevassa keskustelussa esiin nousevat seuraavat periaatteet:

  • Oikeudenmukaisuus
  • Läpinäkyvyys
  • Vastuuvelvollisuus
  • Selitettävyys

Eettisistä näkökohdista ei kuitenkaan automaattisesti seuraa oikeudellisia velvoitteita.

Tuore tutkimus ehdottaa käsitteellisiä kehyksiä vastuun jakamiseksi monitoimijaisissa tekoälyekosysteemeissä sekä todistussääntöjä, jotka yhdistävät suunnitteluratkaisut oikeudellisiin lopputuloksiin. Innovointia edistämään pyrkivien oikeusjärjestelmien on siis huomioitava myös uuden teknologian aiheuttamien vahinkojen uhrit. Tämä tasapainottelu muovaa tekoälyn hallinnan tulevaisuutta.

Tuottamusvastuun tulevaisuus tekoälyn aikakaudella

Tekoäly haastaa oletuksen, että päätösvalta kuuluu aina tunnistettaville ihmisille. Oikeudellinen vastuu säilyy silti viime kädessä ihmisillä.

On epätodennäköistä, että tuomioistuimet tunnustaisivat lähitulevaisuudessa tekoälyjärjestelmät oikeushenkilöiksi. Sen sijaan vastuun odotetaan kohdistuvan ihmisiin, jotka kehittävät järjestelmiä, ottavat niitä käyttöön ja hyötyvät niistä.

Tekoälyjärjestelmien itsenäistyessä voi syntyä yhdistelmämalleja, joissa yhdistyvät seuraavat sääntelyn muodot:

  1. Tuottamusvastuun periaatteet
  2. Tuotevastuuopit
  3. Viranomaisvalvonta
  4. Vakuutuksiin perustuvat korvausjärjestelmät

Tekoäly ei ehkä korvaa common law -oikeuden käsitteitä, vaan pakottaa tuomioistuimet täsmentämään niitä. Kantajan näkökulmasta kysymys on siitä, mitä tapahtui.

Kuka luo riskin? Kuka pystyy parhaiten estämään riskin aiheuttamat henkilövahingot?

Kunnes lainsäätäjät luovat kattavan tekoälyä koskevan vastuujärjestelmän, tuomioistuimet soveltavat olemassa olevia oikeudellisia oppeja uusiin teknologioihin. Neuroverkot voivat olla uusia. Tuottamus ei ole.

Kanon Clifford on kantajia henkilövahinkoasioissa edustava asianajaja Bergeron Cliffordilla. Mahdollisuus vaikuttaa merkityksellisesti ihmisten elämään vetää häntä henkilövahinko-oikeuden pariin. Asiakkaiden oikeus oikeudenmukaiseen korvaukseen on hänen syvän sitoutumisensa perusta loukkaantuneiden ja heidän perheidensä elämän parantamiseen. Kanon aloitti Bergeron Cliffordilla kesäopiskelijana ja oppi henkilövahinko-oikeuden käytännöt. Hän suoritti tämän jälkeen oikeudellisen harjoittelunsa toimistossa ennen hyväksymistään Ontarion asianajajakuntaan vuonna 2020. Hänellä on B.Soc.Sc.-tutkinto Ottawan yliopistosta. Hän suoritti LL.B. (Honours) -tutkinnon Exeterin yliopistossa Devonissa Englannissa sekä LL.M.-tutkinnon konfliktinratkaisussa arvosanalla Distinction University of Law -yliopistossa Lontoossa Englannissa. Hän opiskelee parhaillaan osa-aikaisesti Doctor of Business Administration (D.B.A.) -tutkintoa ja keskittyy oikeuden, liiketoiminnan ja teknologian leikkauspisteisiin.