Ajatusjohtajat
Neuroverkoista tuottamusvastuuseen: kuka vastaa tekoälyn epäonnistumisesta?

Keskeiset kohdatTekoälyn läpinäkymättömyys luo vastuuvajeen vaikeuttamalla huolimattomuuden keskeisiä…
Näytä lisää
- Tekoälyn läpinäkymättömyys luo vastuuvajeen vaikeuttamalla huolimattomuuden keskeisiä elementtejä kuten velvollisuutta ja syy-yhteyttä.
- Tuomioistuimet saattavat soveltaa olemassa olevia tuotevastuun oppeja tekoälyyn, mutta vaativat kehittynyttä teknistä näyttöaineistoa.
- Tiukat vastuujärjestelmät voisivat kohdistaa riskin oikeudenmukaisesti, kun tekoälyn aiheuttama vahinko on ennakoitavissa mutta syy-yhteys on epäselvä.
Tässä artikkelissa käsitellään tekoälyn aiheuttamiin vahinkoihin liittyviä oikeudellisia kysymyksiä ja sitä, kenelle vastuu voi kuulua, jos neuroverkko ei toimi oikein todellisessa maailmassa.
Tekoäly on siirtynyt tutkimuslaboratorioista oikeussaleihin, klinikoille, autoihin ja pörsseihin. Neuroverkot diagnosoivat sairauksia, hyväksyvät lainoja ja hoitavat yhä useammin tehtäviä, joiden on pitkään katsottu kuuluvan ihmisille. Kun tällaiset järjestelmät epäonnistuvat todellisessa maailmassa, seuraukset voivat kuitenkin olla vakavia ja joskus kuolemaan johtavia.
Toimin henkilövahinkoja koskevissa asioissa kantajien asianajajana Ontariossa Kanadassa ja valmistelen parhaillaan Doctor of Business Administration -tutkintoa tutkien liiketoiminnan, oikeuden ja teknologian yhtymäkohtia. Minulta kysytään yhä useammin yksinkertainen kysymys: Kuka on vastuussa, jos tekoäly aiheuttaa vahinkoa?
Vastaus on todellisuudessa monimutkaisempi. Tekoäly haastaa tuottamusta, syy-yhteyttä ja ennakoitavuutta koskevat oikeudelliset opit ja herättää perustavanlaatuisia kysymyksiä siitä, miten oikeuden tulisi suhtautua koneiden päätöksiin.
Tekoälyn kasvava rooli suuren riskin päätöksenteossa
Tekoäly ei enää rajoitu vähän osaamista vaativien tehtävien automatisointiin tai koneoppimisalustoihin. Se tekee nyt päätöksiä terveydenhuollossa, rahoituksessa, työelämässä, liikenteessä, poliisitoiminnassa ja oikeudellisessa analytiikassa.
Nykyiset tekoälymallit koostuvat yleensä syvistä neuroverkoista. Ne pystyvät havaitsemaan monimutkaisia säännönmukaisuuksia suurissa tietoaineistoissa, mutta niiden toiminta jää pitkälti läpinäkymättömäksi myös kehittäjille. Tutkijat ovat havainneet, että tekoälyjärjestelmät tuovat ennakoimattomuutta ja itsenäisyyttä oikeuteen, jota ovat aiemmin ohjanneet tiukasti ennakoitavuus ja tarkoitus. Tämä synnyttää ristiriidan innovoinnin ja vastuuvelvollisuuden välille.
Oikeusjärjestelmät kohdistavat vastuun aiheutuneista vahingoista ihmisiin, mutta tekoäly jakaa sitä tietoaineistojen laatijoiden ja järjestelmien kehittäjien, käyttöönottajien sekä loppukäyttäjien kesken. Vastuu hajaantuu.
Vastuuaukko: kun vahinkoa on vaikea kohdistaa tiettyyn toimijaan
Oikeustieteilijät puhuvat yhä useammin tekoälyn hallintaan syntyvästä ”vastuuaukosta”. Perinteinen vahingonkorvausoikeus edellyttää seuraavien seikkojen osoittamista:
- Huolellisuusvelvollisuus
- Huolellisuusvelvollisuuden rikkominen
- Syy-yhteys
- Vahinko
Tekoäly mutkistaa jokaista osatekijää. Kehittäjät eivät esimerkiksi välttämättä tiedä, miten malli käyttäytyy käyttöönoton jälkeen, ja organisaatiot saattavat käyttää kolmansien osapuolten koneoppimisjärjestelmiä. Loppukäyttäjälle tulosten muodostumismekanismi jää läpinäkymättömäksi.
Eräässä tieteellisessä tutkimuksessa todettiin, että tuottamuksen osoittaminen on vaikeampaa, jos tekoälyjärjestelmät toimivat osittain itsenäisesti tai mukautuvat itsenäisesti esimerkiksi koneoppimisen avulla. Tämä vastuun pirstaloituminen haastaa ihmisen toimintaan perustuvat oikeudelliset opit.
Henkilövahinkoja koskevissa oikeudenkäynneissä tuomioistuimet arvioivat perinteisesti, toimiko vastaaja olosuhteisiin nähden asianmukaisesti. Miten tätä pitäisi arvioida, kun päätöksenteko on osittain siirretty todennäköisyysmalleille?
Neuroverkot ja selitettävyyden ongelma
Syväoppimisjärjestelmät toimivat usein ”mustina laatikkoina”. Niiden sisäisiä päätöksentekoprosesseja eivät edes asiantuntijat pysty helposti tulkitsemaan. Selitettävyyden puutteella on vakavia oikeudellisia seurauksia.
Jos lääketieteellinen tekoälyjärjestelmä tekisi virheellisen syöpädiagnoosin, mistä tuottamus johtuisi? Merkitystä voisi olla seuraavilla seikoilla:
- Miten malli koulutettiin
- Oliko koulutusdatassa vinoumia
- Olivatko validointimenettelyt riittäviä
- Luottivatko kliinikot liikaa automaattisesti tuotettuun tulokseen
Oikeustieteellisessä kirjallisuudessa suositellaan erottamaan toisistaan syy-yhteyteen perustuva vastuu, rooliin perustuva vastuu ja oikeudellinen korvausvastuu , kun määritetään vastuuta tekoälyn aiheuttamista vahingoista.
Käytännössä vastuu voisi kuitenkin ulottua kokonaiseen toimijaketjuun:
- Tietojen toimittajat
- Ohjelmistokehittäjät
- Mallien kouluttajat
- Järjestelmien käyttöönottajat
- Tekoälyn tuloksia hyödyntävät organisaatiot
- Tekoälyn suosituksiin tukeutuvat ammattilaiset
Tekoäly ei poista vastuuta, vaan jakaa sen uudelleen.
Oppeja itseohjautuvista ajoneuvoista: esimerkki tekoälyyn liittyvästä vastuusta
Itseohjautuvia ajoneuvoja koskevat oikeudenkäynnit antavat alustavaa osviittaa siitä, miten tuomioistuimet voivat käsitellä tekoälyyn liittyviä vahinkoja. Tuomioistuimet ovat soveltaneet perinteisiä tuottamuksen ja tuotevastuun periaatteita uusiin, vahinkoa aiheuttaviin teknologioihin. Viimeaikaisissa tapauksissa valamiehistöt ovat alkaneet jakaa vastuuta ihmiskuljettajien ja automaattisia ajojärjestelmiä kehittäneiden teknologiayritysten kesken.
Oikeudelliset kommentaattorit ovat esittäneet, että vakiintuneet tuotevastuuopit, kuten suunnitteluvirhe, valmistusvirhe ja varoitusten laiminlyönti, soveltuvat myös tekoälyä hyödyntäviin järjestelmiin.
Itseohjautuvat ajoneuvot paljastavat kuitenkin nykyisten oikeudellisten kehysten rajat. Kenen pitäisi vastata: ajoneuvon valmistajan, ohjelmistokehittäjän, ajoneuvoa käyttävän ihmisen vai algoritmin koulutukseen käytetyn datan?
Jotkut tutkijat ovat esittäneet, että tuotevastuuperiaatteiden soveltaminen analogisesti voi auttaa rajaamaan vastuun tuotantoketjun alku- ja loppupään toimijoiden välillä.
Kantajan näkökulmasta tapaukset osoittavat, että tuomioistuimet voivat edelleen soveltaa perinteisiä periaatteita uusiin teknologioihin, mutta se edellyttää erittäin korkeatasoista asiantuntijanäyttöä ja teknistä tietämystä.
Ankara vastuu ja tuottamusvastuu: kilpailevat oikeudelliset teoriat
Keskeinen kiistakysymys on, voidaanko perinteisiä tuottamusvastuun kehyksiä soveltaa tekoälyjärjestelmiin. Jotkut tutkijat kannattavat ankaran vastuun järjestelmiä ja katsovat, ettei vahingonkärsijän pitäisi joutua osoittamaan tuottamusta erittäin monimutkaisessa teknologisessa ympäristössä.
Ankara vastuu voi olla erityisen hyödyllinen silloin, kun vahinko on ennakoitavissa mutta väistämätön, tekoälyjärjestelmä on laajamittaisessa käytössä ja riskit jakautuvat yhteiskunnassa laajasti. Sama koskee tilanteita, joissa teknistä syy-yhteyttä on vaikea osoittaa.
On myös esitetty, että tuottamusvastuuta koskeva oikeus voi sopeutua teknologian muutoksiin. Vertailevassa oikeustutkimuksessa on kannatettu olemassa olevien oppien hyödyntämistä, koska ne vakauttavat oikeusjärjestelmää ja mukautuvat asteittain uudenlaisiin vahinkoihin.
Ankara vastuu ja tuottamusvastuu kuvastavat oikeuspoliittisia valintoja, jotka koskevat innovointia, oikeudenmukaisuutta sekä riskien ja kustannusten jakamista.
Pitäisikö innovaattorien vastata teknologisesta riskistä? Vai pitäisikö edistyksen kustannukset jakaa laajemmin yhteiskunnassa?
Liiketoiminnan näkökulma: riskien jakaminen ja vakuutukset
Yrityksille tekoälyyn liittyvä vastuu on oikeudellisen kysymyksen lisäksi riskienhallintaa. Tekoälyjärjestelmiä käyttöön ottavat organisaatiot ovat alkaneet kiinnittää huomiota riskien sopimusperusteiseen jakamiseen, ammatilliseen vastuuvakuutukseen, kybervakuutusturvaan, korvausvastuuta koskeviin sitoumuksiin ja sääntelyn noudattamisen kehyksiin.
Vakuutusmarkkinoilla voi olla merkittävä rooli tekoälyyn liittyvän vastuuvelvollisuuden luomisessa. Joidenkin tutkimusten mukaan tietyt tekoälyn aiheuttamat vahingot voitaisiin lopulta korvata parhaiten yhdistelmäjärjestelmillä, joissa vakuutukset ja vahingonkorvausoikeus täydentävät toisiaan.
Tekoälyä operatiivisessa päätöksenteossa hyödyntävien yritysten pitäisi huomioida oikeudenkäyntiriski digitaalisessa muutoksessaan. Sen laiminlyönti voi altistaa organisaatiot mainehaitoille, viranomaisseuraamuksille ja siviilioikeudelliselle korvausvastuulle.
Eettinen vastuu ja oikeudellinen vastuu
Oikeudellinen vastuu ei monissa tapauksissa vastaa eettistä vastuuta. Tekoälyn hallintaa koskevassa keskustelussa esiin nousevat seuraavat periaatteet:
- Oikeudenmukaisuus
- Läpinäkyvyys
- Vastuuvelvollisuus
- Selitettävyys
Eettisistä näkökohdista ei kuitenkaan automaattisesti seuraa oikeudellisia velvoitteita.
Tuore tutkimus ehdottaa käsitteellisiä kehyksiä vastuun jakamiseksi monitoimijaisissa tekoälyekosysteemeissä sekä todistussääntöjä, jotka yhdistävät suunnitteluratkaisut oikeudellisiin lopputuloksiin. Innovointia edistämään pyrkivien oikeusjärjestelmien on siis huomioitava myös uuden teknologian aiheuttamien vahinkojen uhrit. Tämä tasapainottelu muovaa tekoälyn hallinnan tulevaisuutta.
Tuottamusvastuun tulevaisuus tekoälyn aikakaudella
Tekoäly haastaa oletuksen, että päätösvalta kuuluu aina tunnistettaville ihmisille. Oikeudellinen vastuu säilyy silti viime kädessä ihmisillä.
On epätodennäköistä, että tuomioistuimet tunnustaisivat lähitulevaisuudessa tekoälyjärjestelmät oikeushenkilöiksi. Sen sijaan vastuun odotetaan kohdistuvan ihmisiin, jotka kehittävät järjestelmiä, ottavat niitä käyttöön ja hyötyvät niistä.
Tekoälyjärjestelmien itsenäistyessä voi syntyä yhdistelmämalleja, joissa yhdistyvät seuraavat sääntelyn muodot:
- Tuottamusvastuun periaatteet
- Tuotevastuuopit
- Viranomaisvalvonta
- Vakuutuksiin perustuvat korvausjärjestelmät
Tekoäly ei ehkä korvaa common law -oikeuden käsitteitä, vaan pakottaa tuomioistuimet täsmentämään niitä. Kantajan näkökulmasta kysymys on siitä, mitä tapahtui.
Kuka luo riskin? Kuka pystyy parhaiten estämään riskin aiheuttamat henkilövahingot?
Kunnes lainsäätäjät luovat kattavan tekoälyä koskevan vastuujärjestelmän, tuomioistuimet soveltavat olemassa olevia oikeudellisia oppeja uusiin teknologioihin. Neuroverkot voivat olla uusia. Tuottamus ei ole.











