Vem är ansvarig om AI inom hälsovården misslyckas?

Vem är ansvarig när AI-fel inom hälsovården orsakar olyckor, skador eller värre? Beroende på situationen kan det vara AI-utvecklaren, en hälsovårdspersonal eller till och med patienten. Ansvar är ett alltmer komplext och allvarligt problem när AI blir mer vanligt inom hälsovården. Vem är ansvarig för AI som gått fel och hur kan olyckor förhindras?

Risken med AI-fel inom hälsovården

Det finns många fantastiska fördelar med AI inom hälsovården, från ökad precision och noggrannhet till snabbare återhämtningstider. AI hjälper läkare att ställa diagnoser, utföra operationer och ge patienterna den bästa möjliga vården. Tyvärr är AI-fel alltid en möjlighet.

Det finns ett brett spektrum av AI-fel inom hälsovården. Läkare och patienter kan använda AI som enbart en programvarubaserad beslutsfattande verktyg eller AI kan vara hjärnan i fysiska enheter som robotar. Båda kategorierna har sina risker.

Till exempel, vad händer om en AI-styrd operationsrobot går sönder under en procedur? Detta kan orsaka allvarliga skador eller till och med döda patienten. Likaså, vad om en läkemedelsdiagnosalgoritm rekommenderar fel läkemedel för en patient och de lider av en negativ bieffekt? Även om läkemedlet inte skadar patienten, kan en felaktig diagnos fördröja rätt behandling.

I rotarna av AI-fel som dessa ligger AI-modellernas natur. De flesta AI idag använder “black box”-logik, vilket innebär att ingen kan se hur algoritmen fattar beslut. Black box AI saknar transparens, vilket leder till risker som logisk bias, diskriminering och felaktiga resultat. Tyvärr är det svårt att upptäcka dessa riskfaktorer förrän de redan har orsakat problem.

AI som gått fel: Vem är ansvarig?

Vad händer när en olycka inträffar i en AI-styrd medicinsk procedur? Möjligheten att AI går fel kommer alltid att finnas till en viss grad. Om någon skadas eller värre, är AI fel? Inte nödvändigtvis.

När AI-utvecklaren är ansvarig

Det är viktigt att komma ihåg att AI är ingenting mer än ett datorprogram. Det är ett mycket avancerat datorprogram, men det är fortfarande kod, precis som alla andra program. Eftersom AI inte är medveten eller oberoende som en människa, kan den inte hållas ansvarig för olyckor. En AI kan inte gå till domstol eller dömas till fängelse.

AI-fel inom hälsovården skulle troligen vara ansvarigt för AI-utvecklaren eller den medicinska professionen som övervakar proceduren. Vilken part som är ansvarig för en olycka kan variera från fall till fall.

Till exempel, skulle utvecklaren troligen vara ansvarig om data bias orsakade att AI gav orättvisa, felaktiga eller diskriminerande beslut eller behandling. Utvecklaren är ansvarig för att se till att AI fungerar som utlovat och ger alla patienter den bästa möjliga vården. Om AI går fel på grund av försummelse, bristande uppmärksamhet eller fel på utvecklarens sida, skulle läkaren inte vara ansvarig.

När läkaren eller läkare är ansvarig

Det är dock möjligt att läkaren eller till och med patienten kan vara ansvarig för AI som gått fel. Till exempel, kan utvecklaren göra allt rätt, ge läkaren omfattande instruktioner och ange alla möjliga risker. När det är dags för proceduren, kan läkaren vara distraherad, trött, glömsk eller enkel försumlig.

Undersökningar visar att över 40% av läkare upplever utbrändhet på jobbet, vilket kan leda till ouppmärksamhet, långsamma reflexer och dåligt minne. Om läkaren inte tar hand om sina fysiska och psykologiska behov och deras tillstånd orsakar en olycka, är det läkarens fel.

Beroende på omständigheterna, kan läkarens arbetsgivare slutligen bli skyldig för AI-fel inom hälsovården. Till exempel, vad om en chef på ett sjukhus hotar att neka en läkare en befordran om de inte samtycker till att arbeta övertid? Detta tvingar dem att överarbeta sig själva, vilket leder till utbrändhet. Läkarens arbetsgivare skulle troligen hållas ansvarig i en sådan situation.

När patienten är ansvarig

Vad om både AI-utvecklaren och läkaren gör allt rätt, dock? När en patient oberoende använder ett AI-verktyg, kan en olycka vara patientens fel. AI som gått fel är inte alltid på grund av ett tekniskt fel. Det kan vara resultatet av dålig eller olämplig användning också.

Till exempel, kanske en läkare förklarar noggrant ett AI-verktyg för patienten, men de ignorerar säkerhetsanvisningar eller anger felaktiga data. Om denna vårdslösa eller olämpliga användning resulterar i en olycka, är det patientens fel. I det fallet var de ansvariga för att använda AI korrekt eller tillhandahålla korrekt data och försummade att göra det.

Även när patienter känner till sina medicinska behov, kan de inte följa läkarens instruktioner av olika skäl. Till exempel, 24% av amerikaner som tar receptbelagda läkemedel rapporterar att de har svårt att betala för sina läkemedel. En patient kan hoppa över medicinering eller ljuga för en AI om att ta en eftersom de är generade över att inte kunna betala för sitt recept.

Om patientens olämpliga användning berodde på bristande vägledning från läkaren eller AI-utvecklaren, kunde skulden ligga någon annanstans. Det beror slutligen på var roten till olyckan eller felet inträffade.

Regleringar och potentiella lösningar

Finns det ett sätt att förhindra AI-fel inom hälsovården? Medan ingen medicinsk procedur är helt riskfri, finns det sätt att minimera sannolikheten för negativa resultat.

Regleringar för användning av AI inom hälsovården kan skydda patienter från högrisk-AI-styrda verktyg och procedurer. FDA har redan regleringsramar för AI-medical enheter, som anger test- och säkerhetskrav och granskningsprocessen. Ledande medicinska tillsynsorgan kan också träda in för att reglera användningen av patientdata med AI-algoritmer i de kommande åren.

Förutom strikta, rimliga och omfattande regleringar, bör utvecklare vidta åtgärder för att förhindra AI-fel. Förklarlig AI — också känd som vit låda AI — kan lösa transparens- och data bias-problem. Förklarlig AI-modeller är nya algoritmer som tillåter utvecklare och användare att komma åt modellens logik.

När AI-utvecklare, läkare och patienter kan se hur en AI kommer till sina slutsatser, är det mycket lättare att identifiera data bias. Läkare kan också upptäcka faktamässiga fel eller saknad information snabbare. Genom att använda förklarlig AI istället för black box AI, kan utvecklare och hälsovårdspersonal öka tillförlitligheten och effektiviteten hos medicinsk AI.

Säker och effektiv hälsovårds-AI

Artificiell intelligens kan göra fantastiska saker inom det medicinska området, potentiellt till och med rädda liv. Det kommer alltid att finnas en viss osäkerhet förknippad med AI, men utvecklare och hälsovårdsorganisationer kan vidta åtgärder för att minimera dessa risker. När AI-fel inom hälsovården inträffar, kommer juridiska rådgivare troligen att fastställa ansvar baserat på roten till felet.