Hvem er ansvarlig, hvis sundheds-IT fejler?

Hvem er ansvarlig, når sundheds-IT-fejl forårsager ulykker, skader eller værre? Afhængigt af situationen, kan det være sundheds-IT-udvikleren, en sundhedsprofessionel eller endda patienten. Ansvarlighed er en stadig mere kompleks og alvorlig bekymring, da sundheds-IT bliver mere almindelig i sundhedssektoren. Hvem er ansvarlig for sundheds-IT-fejl, og hvordan kan ulykker forebygges?

Risikoen for sundheds-IT-fejl

Der er mange fantastiske fordele ved sundheds-IT, fra øget præcision og nøjagtighed til hurtigere genhelbredelse. Sundheds-IT hjælper læger med at stille diagnoser, udføre operationer og give patienterne den bedst mulige behandling. Desværre er sundheds-IT-fejl altid en mulighed.

Der er en bred vifte af sundheds-IT-fejl-scenarier. Læger og patienter kan bruge sundheds-IT som ren software-baseret beslutningstagning eller sundheds-IT kan være hjernen bag fysiske enheder som robotter. Begge kategorier har deres risici.

For eksempel, hvad sker der, hvis en sundheds-IT-drevet operationsrobot fejler under en procedure? Dette kan forårsage en alvorlig skade eller potentielt endda dræbe patienten. Ligesom, hvad hvis en medicin-diagnose-algoritme anbefaler den forkerte medicin til en patient, og de oplever en negativ bivirkning? Selv hvis medicinen ikke skader patienten, kan en fejldiagnose forsinke den rigtige behandling.

Til bunds i sundheds-IT-fejl som disse ligger sundheds-IT-modellernes natur selv. De fleste sundheds-IT-modeller bruger i dag “black box”-logik, hvilket betyder, at ingen kan se, hvordan algoritmen tager beslutninger. Black box-sundheds-IT mangler gennemsigtighed, hvilket fører til risici som logik-bias, diskrimination og ukorrekte resultater. Desværre er det svært at opdage disse risikofaktorer, før de allerede har forårsaget problemer.

Sundheds-IT-fejl: Hvem er skyldig?

Hvad sker der, når en ulykke indtræffer i en sundheds-IT-drevet medicinsk procedure? Muligheden for sundheds-IT-fejl vil altid være til stede i en vis udstrækning. Hvis nogen bliver skadet eller værre, er sundheds-IT-fejlen skyldig? Ikke nødvendigvis.

Når sundheds-IT-udvikleren er skyldig

Det er vigtigt at huske, at sundheds-IT ikke er andet end et computerprogram. Det er et meget avanceret computerprogram, men det er stadig kode, ligesom ethvert andet stykke software. Da sundheds-IT ikke er bevidst eller uafhængigt som et menneske, kan det ikke holdes ansvarligt for ulykker. En sundheds-IT kan ikke gå til retten eller blive idømt fængsel.

Sundheds-IT-fejl i sundhedssektoren vil sandsynligvis være sundheds-IT-udviklerens eller den medicinske professionelles ansvar, der overvåger proceduren. Hvem der er skyldig i en ulykke, kan variere fra sag til sag.

For eksempel vil sundheds-IT-udvikleren sandsynligvis være skyldig, hvis data-bias forårsager, at sundheds-IT giver urimelige, ukorrekte eller diskriminerende beslutninger eller behandling. Udvikleren er ansvarlig for at sikre, at sundheds-IT fungerer, som det lovede, og giver alle patienter den bedst mulige behandling. Hvis sundheds-IT-fejler på grund af uagtsomhed, oversigt eller fejl fra udviklerens side, vil lægen ikke være ansvarlig.

Når lægen eller lægen er skyldig

Det er dog stadig muligt, at lægen eller endda patienten kan være ansvarlig for sundheds-IT-fejl. For eksempel kan udvikleren gøre alt rigtigt, give lægen grundige instruktioner og fremhæve alle mulige risici. Når det er tid for proceduren, kan lægen være distraheret, træt, glemsom eller simpelthen uagtsom.

Undersøgelser viser at over 40% af læger oplever udbrændthed på arbejdet, hvilket kan føre til uopmærksomhed, langsomme reflekser og dårlig hukommelse. Hvis lægen ikke tilfredsstiller sine egne fysiske og psykologiske behov, og deres tilstand forårsager en ulykke, er det lægens skyld.

Afhangigt af omstændighederne kan lægens arbejdsgiver muligvis blive beskyldt for sundheds-IT-fejl. For eksempel, hvad hvis en leder på et hospital truer med at nægte en læge en forfremmelse, hvis de ikke accepterer at arbejde overtid? Dette tvinger dem til at overarbejde sig selv, hvilket fører til udbrændthed. Lægens arbejdsgiver vil sandsynligvis blive holdt ansvarlig i en sådan situation.

Når patienten er skyldig

Hvad nu, hvis både sundheds-IT-udvikleren og lægen gør alt rigtigt? Når patienten uafhængigt bruger en sundheds-IT-værktøj, kan en ulykke være patientens skyld. Sundheds-IT-fejl skyldes ikke altid en teknisk fejl. Det kan være resultatet af dårlig eller forkert brug.

For eksempel kan en læge grundigt forklare en sundheds-IT-værktøj til patienten, men de ignorerer sikkerhedsinstruktioner eller indtaster forkert data. Hvis denne uagtsomme eller forkerte brug resulterer i en ulykke, er det patientens skyld. I dette tilfælde var de ansvarlige for at bruge sundheds-IT korrekt eller give præcis data og forsømte at gøre det.

Selv når patienter kender deres medicinske behov, kan de ikke følge en læges instruktioner af en række årsager. For eksempel 24% af amerikanerne, der tager receptpligtig medicin, rapporterer, at de har svært ved at betale for deres medicin. En patient kan springe over medicin eller lyve til en sundheds-IT om at tage en, fordi de er flove over ikke at kunne betale for deres recept.

Hvis patientens forkerte brug skyldes manglende vejledning fra lægen eller sundheds-IT-udvikleren, kan skylden være et andet sted. Det afhænger ultimativt af, hvor rodfejlen eller fejlen opstod.

Reguleringer og potentielle løsninger

Er der en måde at forebygge sundheds-IT-fejl på? Selv om ingen medicinsk procedure er helt risikofri, er der måder at minimere sandsynligheden for ugunstige udfald.

Reguleringer omkring brugen af sundheds-IT kan beskytte patienter mod højrisiko-sundheds-IT-drevne værktøjer og procedurer. FDA har allerede reguleringsrammer for sundheds-IT-medicalprodukter, der fastlægger test- og sikkerheds krav og gennemgangsprocessen. Ledende medicinske tilsynsorganisationer kan også træde ind for at regulere brugen af patientdata med sundheds-IT-algoritmer i de kommende år.

Ud over strenge, rimelige og grundige reguleringer bør udviklere tage skridt for at forebygge sundheds-IT-fejl-scenarier. Forklarlig sundheds-IT — også kendt som white box-sundheds-IT — kan løse gennemsigtigheds- og data-bias-problemer. Forklarlig sundheds-IT-modeller er fremvoksende algoritmer, der giver udviklere og brugere adgang til modellens logik.

Når sundheds-IT-udviklere, læger og patienter kan se, hvordan en sundheds-IT kommer til sine konklusioner, er det meget lettere at identificere data-bias. Læger kan også fange faktuelle ukorrekte eller manglende oplysninger hurtigere. Ved at bruge forklarlig sundheds-IT i stedet for black box-sundheds-IT kan udviklere og sundhedsydelere øge tilliden og effektiviteten af medicinsk sundheds-IT.

Sikker og effektiv sundheds-IT

Kunstig intelligens kan gøre fantastiske ting i sundhedssektoren, potentielt endda redde liv. Der vil altid være en vis usikkerhed forbundet med sundheds-IT, men udviklere og sundhedsorganisationer kan tage skridt for at minimere disse risici. Når sundheds-IT-fejl indtræffer i sundhedssektoren, vil juridiske rådgivere sandsynligvis fastlægge ansvarlighed baseret på rodfejlen i ulykken.