Hvem er ansvarlig hvis helsevesenets AI feiler?

Hvem er ansvarlig når AI-feil i helsevesenet forårsaker ulykker, skader eller verre? Avhengig av situasjonen, kan det være AI-utvikleren, en helseperson eller til og med pasienten. Ansvar er en stadig mer kompleks og alvorlig bekymring ettersom AI blir mer vanlig i helsevesenet. Hvem er ansvarlig for AI som feiler og hvordan kan ulykkene forebygges?

Risikoen for AI-feil i helsevesenet

Det er mange fantastiske fordeler med AI i helsevesenet, fra økt nøyaktighet og presisjon til raskere rekoveringstider. AI hjelper leger med å stille diagnoser, utføre operasjoner og gi de beste mulige behandlinger for pasientene. Dessverre er AI-feil alltid en mulighet.

Det finnes en rekke scenarier der AI feiler i helsevesenet. Leger og pasienter kan bruke AI som et renvare programvarebasert beslutningssystem eller AI kan være hjernen bak fysiske enheter som roboter. Begge kategoriene har sine risikoer.

For eksempel, hva skjer hvis en AI-drevet operasjonsrobot feiler under en prosedyre? Dette kan forårsake alvorlige skader eller potensielt sogar drepe pasienten. Liksom, hva hvis en legemiddeldiagnosealgoritme anbefaler feil medisiner for en pasient og de lider av en negativ bivirkning? Selv om medisinen ikke skader pasienten, kan en feildiagnose forsinke riktig behandling.

Ved roten av AI-feil som disse ligger AI-modellens natur selv. De fleste AI-modeller i dag bruker “black box”-logikk, noe som betyr at ingen kan se hvordan algoritmen tar beslutninger. Black box AI mangler transparens, noe som fører til risikoer som logisk forvrengning, diskriminering og upresise resultater. Dessverre er det vanskelig å oppdage disse risikofaktorene før de har forårsaket problemer.

AI som feiler: Hvem er skyldig?

Hva skjer når en ulykke skjer i en AI-drevet medisinsk prosedyre? Muligheten for AI som feiler vil alltid være til stede i en viss grad. Hvis noen blir skadet eller verre, er AI skyldig? Ikke nødvendigvis.

Når AI-utvikleren er skyldig

Det er viktig å huske at AI er ingenting mer enn et dataprogram. Det er et svært avansert dataprogram, men det er likevel kode, akkurat som ethvert annet programvare. Siden AI ikke er selvstendig eller uavhengig som et menneske, kan det ikke holdes ansvarlig for ulykker. En AI kan ikke gå til retten eller bli dømt til fengsel.

AI-feil i helsevesenet ville sannsynligvis være ansvarlig for AI-utvikleren eller den medisinske profesjonellen som overvåker prosedyren. Hvem som er skyldig for en ulykke kan variere fra sak til sak.

For eksempel, ville utvikleren sannsynligvis være skyldig hvis datasammenstilling forårsaket at AI gav urimelige, upresise eller diskriminerende beslutninger eller behandlinger. Utvikleren er ansvarlig for å sikre at AI fungerer som lovet og gir alle pasienter den beste mulige behandlingen. Hvis AI feiler på grunn av forsømmelse, manglende oppmerksomhet eller feil fra utviklerens side, ville legen ikke være ansvarlig.

Når legen eller lege er skyldig

Likevel er det mulig at legen eller til og med pasienten kan være ansvarlig for AI som feiler. For eksempel, kan utvikleren gjøre alt riktig, gi legen grundige instruksjoner og angi alle mulige risikoer. Når det blir tid for prosedyren, kan legen være distraherende, trøtt, glømsk eller simpelthen forsømmelig.

Undersøkelser viser at over 40% av leger opplever utbrenning på jobben, noe som kan føre til uoppmerksomhet, langsomme reflekser og dårlig hukommelse. Hvis legen ikke tar hånd om sine egne fysiske og psykiske behov og tilstanden forårsaker en ulykke, er det legens feil.

Avhengig av omstendighetene, kan legens arbeidsgiver bli klandret for AI-feil i helsevesenet. For eksempel, hva hvis en sjef på et sykehus truer med å nekte en lege en forfremmelse hvis de ikke går med på å arbeide overtid? Dette tvinger dem til å overarbeide seg selv, noe som fører til utbrenning. Legens arbeidsgiver ville sannsynligvis bli holdt ansvarlig i en slik unik situasjon.

Når pasienten er skyldig

Hva hvis både AI-utvikleren og legen gjør alt riktig, likevel? Når en pasient uavhengig bruker et AI-verktøy, kan en ulykke være pasientens feil. AI som feiler er ikke alltid på grunn av en teknisk feil. Det kan være et resultat av dårlig eller ukorrekt bruk.

For eksempel, kanskje en lege forklarer grundig et AI-verktøy til pasienten, men pasienten ignorerer sikkerhetsinstruksjoner eller innfører feil data. Hvis denne uaktsomme eller ukorrekte bruken fører til en ulykke, er det pasientens feil. I dette tilfelle var de ansvarlige for å bruke AI korrekt eller gi nøyaktig data og forsømte å gjøre det.

Selv om pasienter kjenner sine medisinske behov, kan de likevel ikke følge en leges instruksjoner av en rekke årsaker. For eksempel, 24% av amerikanerne som tar reseptmedisiner rapporterer at det er vanskelig å betale for medisinene sine. En pasient kan hoppe over medisin eller lyve til en AI om å ta en fordi de er flokete over å ikke kunne betale for resepten sin.

Hvis pasientens ukorrekte bruk var på grunn av manglende veiledning fra legen eller AI-utvikleren, kan skylden ligge et annet sted. Det avhenger ultimate av hvor ulykken eller feilen skjedde.

Reguleringer og potensielle løsninger

Er det en måte å forebygge AI-feil i helsevesenet? Mens ingen medisinsk prosedyre er helt risikofri, finnes det måter å minimere sannsynligheten for negative resultater.

Reguleringer på bruk av AI i helsevesenet kan beskytte pasienter mot høyrisikos AI-drevne verktøy og prosedyrer. FDA har allerede reguleringsrammer for AI-mediske enheter, som omfatter testing og sikkerhetskrav og godkjenningprosessen. Ledende medisinske tilsynsorganer kan også gripe inn for å regulere bruk av pasientdata med AI-algoritmer i årene som kommer.

I tillegg til strenge, rimelige og grundige reguleringer, bør utviklere ta skritt for å forebygge AI-feilscenarier. Forklarbar AI — også kjent som hvit boks AI — kan løse transparens- og datasammenstillingproblemer. Forklarbar AI-modeller er nye algoritmer som tillater utviklere og brukere å få tilgang til modellens logikk.

Når AI-utviklere, leger og pasienter kan se hvordan en AI kommer til sine konklusjoner, er det mye enklere å identifisere datasammenstilling. Leger kan også fange faktiske uakkurater eller manglende informasjon raskere. Ved å bruke forklarbar AI i stedet for black box AI, kan utviklere og helsepersonell øke tillit og effektivitet i medisinsk AI.

Sikker og effektiv helsevesen AI

Kunstig intelligens kan gjøre fantastiske ting i helsevesenet, potensielt sogar redde liv. Det vil alltid være en viss usikkerhet forbundet med AI, men utviklere og helseorganisasjoner kan ta skritt for å minimere disse risikoene. Når AI-feil i helsevesenet skjer, vil juridiske rådgivere sannsynligvis avgjøre ansvar basert på feilens rotårsak.