Hermoneuroverkkojen ja huolen aiheuttajien välillä: Kuka on vastuussa, kun tekoäly epäonnistuu?

Tässä artikkelissa käsitellään tekoälyn aiheuttamien vahinkojen oikeudellisia kysymyksiä ja sitä, kuka vastaa, jos hermoverkko toimii väärin todellisessa maailmassa.

Teckoäly on siirtynyt tutkimuslaboratorioista oikeussaleihin, sairaaloihin, autoihin ja pörssiin, ja hermoverkot diagnosoida sairauksia, hyväksyvät lainoja ja suorittavat yhä useammin tehtäviä, jotka on pitkään pidetty ihmisten yksinoikeutena. Mutta kun nämä järjestelmät epäonnistuvat todellisessa maailmassa, se tapahtuu vakavien ja joskus kohtalokkaiden seurausten kera.

Ontarion kanadalaisena henkilövahinkolakimena ja liiketohtorin tutkijana, joka tutkii liiketoiminnan, oikeuden ja teknologian leikkauspistettä, minulle esitetään yhä useammin yksinkertainen kysymys: Kuka on syyllinen, jos tekoäly aiheuttaa vahinkoa?

Vastaus on kuitenkin monimutkaisempi. Tekoäly haastaa vastuun, syyllisyyden ja ennustettavuuden oppeja ja herättää perustavanlaatuisia kysymyksiä siitä, miten laki tulisi vastata konepäätöksiin.

Laajeneva tekoälyn rooli korkean riskin päätöksenteossa

Teckoäly ei ole enää rajoitettu vain matalan tason tehtävien automaatioon tai koneoppimisalustoille. Se tekee nyt päätöksiä terveydenhuollosta, rahoituksesta, työllistymisestä, liikenteestä, poliisitoiminnasta ja oikeudellisista analyyseistä.

Nykyiset tekoälymallit koostuvat yleensä syvistä hermoverkoista, jotka vaikka voivat havaita monimutkaisia kuvioita suurissa tietojoukoissa, ovat merkittävästi läpinäkymättömiä kehittäjilleen. Akateemikot ovat havainneet, että tekoälyjärjestelmät tuovat ennustamattomuutta ja autonomiaa lakiin, jota aikaisemmin ohjattiin ennustettavuudella ja aikomalla. Tämä luo ristiriidan innovaation ja vastuun välille.

Vaikka oikeusjärjestelmät kohdistavat aiheutetun vahingon ihmisiin, tekoäly jakaa vastuun tietojoukon insinööreille, jotka luovat ne, käyttäjille ja lopputuotteiden käyttäjille. Vastuu muuttuu epämääräiseksi.

Vastuun aukko: Kun vahinkoa ei voida helposti määrittää

Oikeudelliset tutkijat viittaavat yhä useammin tekoälyn hallinnassa ilmenevään “vastuun aukkoon”. Perinteinen vahingonkorvausoikeus perustuu seuraavien tunnistamiseen:

1. Hoitovelvollisuus
2. Hoitovelvollisuuden rikkomisesta
3. Syy-yhteys
4. Vahingot

Teckoäly monimutkaistaa jokaisen näistä elementeistä. Esimerkiksi kehittäjät eivät välttämättä tiedä, miten malli toimii käyttöönoton jälkeen, ja organisaatiot voivat käyttää kolmannen osapuolen koneoppimisjärjestelmiä. Käyttäjän näkökulmasta tulosmekanismin määritys on epäselvä.

Yksi akateeminen tutkimus totesi, kuinka virheen osoittaminen on vaikeampaa, jos tekoälyjärjestelmät toimivat puoli-itsenäisesti tai sopeutuvat itsenäisesti prosessien kautta, kuten koneoppiminen. Tämä hajauttaminen haastaa opit, jotka perustuvat ihmisen toimintaan.

Henkilövahinkoasioissa oikeudet tarkastelevat perinteisesti, onko vastaaja toiminut kohtuullisesti olosuhteiden mukaan. Mutta miten oikeudet tulisi arvioida kohtuullisuutta, kun päätöksenteko on osittain delegoitu todennäköisyysmalleihin?

Hermoverkot ja selittämättömyyden ongelma

Syvät oppimisjärjestelmät toimivat usein “mustina laatikkoina”. Niiden sisäiset päätöksentekoprosessit eivät ole helppoja tulkittavissa, edes asiantuntijoille. Tämä selittämättömyys on vakavia oikeudellisia seuraamuksia.

Jos lääketieteellinen tekoälyjärjestelmä diagnosoi väärin syövän, kuka on vastuussa? Se voi olla:

• Miten malli on koulutettu
• Onko koulutusdata sisältänyt harhaa
• Olisivatko validointiprosessit riittäviä
• Onko kliinikot luottaneet liikaa automaattiseen tulokseen

Oikeudellinen kirjallisuus suosittelee eroa syyllisyyden, roolin ja vastuun välillä tekoälyn aiheuttamien vahinkojen määrittämisessä.

Käytännössä vastuu voisi ulottua useisiin toimijoihin:

• Tietojen tarjoajat
• Ohjelmistokehittäjät
• Mallin kouluttajat
• Käyttöönotto
• Organisaatiot, jotka käyttävät tekoälytuloksia
• Ammattilaiset, jotka luottavat tekoälysuosituksiin

Teckoäly ei poista vastuuta, vaan jakaa sen uudelleen.

Oppeja itseohjautuvista ajoneuvoista: Tekoälyn vastuun case-tutkimus

Itseohjautuvien ajoneuvojen oikeudelliset tapaukset antavat varhaisen näyn siihen, miten oikeudet voivat käsitellä tekoälyaiheisia vahinkoja. Oikeudet ovat soveltaneet tavallisia huolenaiheita ja tuoteliability-periaatteita uusiin tekniikoihin, jotka aiheuttavat vahinkoa. Viimeaikaisissa tapauksissa raadit ovat alkaneet jakaa vastuuta ihmiskuljettajien ja teknologiayritysten välillä, jotka loivat automaattiset ajoratkaisut.

Oikeudelliset asiantuntijat ovat ehdottaneet, että olemassa olevat tuoteliability-opit, kuten suunnitteluvirheet, valmistusvirheet ja varoittamattomuus, ovat merkityksellisiä tekoälyjärjestelmiin.

Itseohjautuvat ajoneuvot kuitenkin paljastavat nykyisten oikeudellisten kehysten rajoitukset. Pitäisikö vastuu liittyä:
Vaalimenneisuuden valmistajalle? Ohjelmistokehittäjälle? Ihmiskuljettajalle? Vai algoritmin koulutukseen käytettyyn dataan?

Jotkut tutkijat ovat ehdottaneet, että tuoteliability-periaatteiden vertaaminen voi tehokkaasti määrittää vastuun jakautumisen ylä- ja alavirtaisten toimijoiden välillä.

Asianomistajan näkökulmasta tapaukset osoittavat, että oikeudet voivat edelleen soveltaa perinteisiä periaatteita uusiin tekniikoihin, mutta vain todella edistyneen asiantuntija-tiedon ja teknisen osaamisen kautta.

Kova vastuu ja huolenaihe: Kilpailevat oikeudelliset teoriat

Keskustelu käy siitä, voidaanko perinteisiä huolenaihekehyksiä soveltaa tekoälyjärjestelmiin. Jotkut tutkijat kannattavat kovaan vastuuseen perustuvia järjestelmiä, väittäen, että vahingoittuneet osapuolten ei pitäisi kantaa virhevastuuta hyvin monimutkaisissa teknologisissa ympäristöissä.

Kova vastuu voi olla erityisen hyödyllistä silloin, kun vahinko on ennustettavissa, mutta ei välttämätöntä, kun tekoälyjärjestelmä on otettu laajasti käyttöön ja kun riskit ovat sosiaalisesti jakautuneita. Tai tekninen syy-yhteys ei ole helppo osoittaa.

On myös väitetty, että huolenaihe-oikeus voi sopeutua teknologisiin muutoksiin. Vertaileva oikeustutkimus on argumentoinut perinteisten oppien kehittämisestä, joilla on sisäänrakennettu stabiloivat vaikutukset ja askelmasi sopeutuminen uusiin vahinkoihin.

Kova vastuu ja huolenaihe edustavat politiikkaa suhteen innovaatioon, reiluuteen ja siihen, miten riski ja kustannukset tulisi jakaa.

Pitäisikö innovaattoreiden olla vastuussa teknologisesta riskistä? Vai tulisiko yhteiskunnan laajasti jakaa edistymisen kustannukset?

Liiketoimintanäkökulma: Riskin jakautuminen ja vakuutus

Liiketoimintanäkökulmasta tekoälyn vastuu ei ole ainoastaan oikeudellinen vaan myös riskien hallinnan asia. Organisaatiot, jotka ottavat tekoälyjärjestelmiä käyttöön, ovat alkaneet keskittyä sopimussuhteiden riskien jakautumiseen: 2. ammattivakuutukseen, 3. kyberturvaan ja 4. vahingonkorvaukseen sekä sääntelyyn perustuviin kehyksiin.

Vakuutusmarkkinat voivat osoittautua tärkeiksi tekoälyn vastuun määrittämisessä. Jotkut tutkimukset osoittavat, että tekoälystä aiheutuvat vahingot voidaan lopulta parhaiten korvata yhdistetyillä korvausjärjestelmillä, jotka yhdistävät vakuutuksen ja vahingonkorvausoikeuden.

Yritysten on otettava tekoälyn käyttöön liiketoiminnan päätöksenteossa huomioon myös oikeudelliset riskit. Tämä voi jättää organisaatiot alttiina mainevahingoille, sääntelytoimille ja siviilioikeudellisille seuraamuksille.

Eettinen vastuu vs. oikeudellinen vastuu

Monissa tapauksissa oikeudellinen vastuu ei ole sama kuin eettinen vastuu. Tekoälyn hallinnan keskusteluissa käsitellään seuraavia periaatteita:

• Reiluus
• Avoinheitto
• Vastuullisuus
• Selittäminen

Oikeudelliset velvollisuudet eivät kuitenkaan automaattisesti seuraa eettisistä huolenaiheista.

Viimeaikainen työ ehdottaa käsitteellisiä kehyksiä vastuun määrittämisessä monitoimijaisissa tekoälyekosysteemeissä ja todisteellisten sääntöjen luomisessa, jotka yhdistävät suunnittelupäätökset oikeudellisiin tuloksiin. Oikeudelliset järjestelmät, jotka pyrkivät edistämään innovaatiota, on myös otettava huomioon ne, jotka ovat kärsineet uudesta teknologiasta. Tämä tasapainoilu muovaa tekoälyn tulevaisuuden hallintaa.

Teon huolenaiheen tulevaisuus tekoälyn aikakaudella

Teckoäly haastaa oletuksen, että päätöksenteon valta aina kuuluu tunnistettaville ihmisille. Mutta lopulta oikeudellinen vastuu on edelleen ihmisten vastuulla.

Lähitulevaisuudessa on epätodennäköistä, että oikeudet tunnustavat tekoälyjärjestelmät oikeudellisiksi henkilöiksi. Sen sijaan on odotettavissa, että yksilöt, jotka kehittävät, ottavat käyttöön ja hyötyvät tekoälyjärjestelmistä, pidetään vastuussa.

Kun tekoälyjärjestelmät kehittyvät itsenäisemmiksi, hybridi-malleja voi kehittyä, yhdistäen erilaisia sääntelymuotoja:

1. Huolenaiheperiaatteita
2. Tuoteliability-oppeja
3. Sääntelyvalvontaa
4. Vakuutusperusteisia korvausjärjestelmiä

Sen sijaan, että tekoäly korvaisi yleiset oikeudelliset käsitteet, se voi vain pakottaa oikeudet selventämään niitä. Asianomistajan näkökulmasta kysymys on, mitä tapahtui.

Kuka on riskin luoja? Kuka voi parhaiten estää riskin vahingoittamasta yksilöitä?

Kunnes lainsäätäjät ottavat käyttöön kattavat teknologiat. Tekoälyn vastuujärjestelmissä oikeudet soveltavat olemassa olevia oikeudellisia oppia uusiin tekniikoihin. Hermoverkot ovat uusia. Huolenaihe ei ole.